Hoppa till huvudinnehåll

FreeAI::Server::OpenAI — OpenAI API-server baserad på inbyggda scrapers för AI-modeller.

OpenAI Server

Översikt av scrapern

Scrapern ger möjlighet att distribuera en egen OpenAI-kompatibel API-server som du kan ansluta till från dina applikationer (t.ex. Cherry Studio, Cline m.fl.) och skript — både via officiella OpenAI SDK och med vanliga HTTP-anrop. Scrapern ger tillgång till gratis- och betalmodeller som A-Parser skrapar.

Lista över modeller som stöds:

Anslutning till Cherry Studio

  • Inställningar (övre högra hörnet)
  • Lista över leverantörer, längst ner "lägg till"
  • Ange ett valfritt namn, Provider type måste vara OpenAI
  • Ange API Key (valfri nyckel)
  • Ange host (konfigureras i FreeAI::Server::OpenAI) ursprungligen http://127.0.0.1:3000
  • Knappen "Manage" lägg till önskade modeller
Visa anslutningsvideo

anslutning till cherry studio

Anslutning via OpenAI SDK

Anslutning till FreeAI::Server::OpenAI via nodejs + openai sdk
Kod från exempel
import OpenAI from "openai";

(async function () {
const openai = new OpenAI({
baseURL: "http://127.0.0.1:3000/v1", //Länk där FreeAI::Server::OpenAI körs
apiKey: "123",
});

const completion = await openai.chat.completions.create({
model: "FreeAI::ChatGPT", //Modellen är namnet på scrapern från listan FreeAI::Server::OpenAI, se listan över modeller som stöds i avsnittet "Översikt av scrapern"
messages: [{ role: "user", content: "Why is the sky blue?" }], //Fråga till modellen
});

console.log(completion.choices[0].message.content); //Utmatning av svar från AI-modellen
})();

Hämta resultat med HTTP-anrop

Anslutning till FreeAI::Server::OpenAI via nodejs http-anrop
Kod från exempel
const resp = await fetch("http://127.0.0.1:3000/v1/chat/completions", {
method: "POST",
headers: {
Authorization: "Bearer 123",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "FreeAI::ChatGPT", //Modellen är namnet på scrapern från listan FreeAI::Server::OpenAI, se listan över modeller som stöds i avsnittet "Översikt av scrapern"
messages: [{ role: "user", content: "Användningsområden för nodejs" }], //Fråga till modellen
}),
});

if (!resp.ok) {
const text = await resp.text();
throw new Error(`HTTP ${resp.status}: ${text}`);
}

const data = await resp.json();
console.log(data.choices?.[0]?.message?.content);

Möjliga inställningar

ParameternamnStandardvärdeBeskrivning
Listen Host127.0.0.1IP-adress eller värdnamn för gränssnittet där tjänsten tar emot inkommande anslutningar
Listen Port3000Portnummer som tjänsten tar emot inkommande anslutningar på
FreeAI::ChatGPT presetdefaultFörinställning för FreeAI::ChatGPT-scrapern
FreeAI::Copilot presetdefaultFörinställning för FreeAI::Copilot-scrapern
FreeAI::DeepAI presetdefaultFörinställning för FreeAI::DeepAI-scrapern
FreeAI::GoogleAI presetdefaultFörinställning för FreeAI::GoogleAI-scrapern
FreeAI::Kimi presetdefaultFörinställning för FreeAI::Kimi-scrapern
FreeAI::Perplexity presetdefaultFörinställning för FreeAI::Perplexity-scrapern