Ga naar de hoofdinhoud

FreeAI::Server::OpenAI — OpenAI API-server op basis van ingebouwde AI-model scrapers.

OpenAI Server

Overzicht van de scraper

De scraper biedt de mogelijkheid om uw eigen OpenAI-compatibele API-server te draaien, waarmee u verbinding kunt maken vanuit uw applicaties (bijvoorbeeld Cherry Studio, Cline, enz.) en scripts — zowel via de officiële OpenAI SDK als met behulp van gewone HTTP-verzoeken. De scraper geeft toegang tot gratis en betaalde modellen die door A-Parser worden gescraped.

Lijst met ondersteunde modellen:

Verbinding maken met Cherry Studio

  • Instellingen (rechterbovenhoek)
  • Lijst met providers, helemaal onderaan "toevoegen"
  • Geef een willekeurige naam op, Provider type moet OpenAI zijn
  • Voer een API Key in (elke willekeurige sleutel)
  • Voer de host in (geconfigureerd in FreeAI::Server::OpenAI), standaard http://127.0.0.1:3000
  • Knop "Manage", voeg de gewenste modellen toe
Bekijk de verbindingsvideo

verbinding maken met cherry studio

Verbinding via OpenAI SDK

Verbinding met FreeAI::Server::OpenAI via nodejs + openai sdk
Code uit het voorbeeld
import OpenAI from "openai";

(async function () {
const openai = new OpenAI({
baseURL: "http://127.0.0.1:3000/v1", //Link waaronder FreeAI::Server::OpenAI draait
apiKey: "123",
});

const completion = await openai.chat.completions.create({
model: "FreeAI::ChatGPT", //Model is de naam van de scraper uit de lijst FreeAI::Server::OpenAI, zie de lijst met ondersteunde modellen in de sectie "Overzicht van de scraper"
messages: [{ role: "user", content: "Why is the sky blue?" }], //Verzoek aan het model
});

console.log(completion.choices[0].message.content); //Uitvoer van het antwoord van het AI-model
})();

Resultaat ophalen via HTTP-verzoek

Verbinding met FreeAI::Server::OpenAI via nodejs http request
Code uit het voorbeeld
const resp = await fetch("http://127.0.0.1:3000/v1/chat/completions", {
method: "POST",
headers: {
Authorization: "Bearer 123",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "FreeAI::ChatGPT", //Model is de naam van de scraper uit de lijst FreeAI::Server::OpenAI, zie de lijst met ondersteunde modellen in de sectie "Overzicht van de scraper"
messages: [{ role: "user", content: "Toepassingsgebieden van nodejs" }], //Verzoek aan het model
}),
});

if (!resp.ok) {
const text = await resp.text();
throw new Error(`HTTP ${resp.status}: ${text}`);
}

const data = await resp.json();
console.log(data.choices?.[0]?.message?.content);

Mogelijke instellingen

Parameter-naamStandaardwaardeBeschrijving
Listen Host127.0.0.1IP-adres of hostnaam van de interface waarop de service inkomende verbindingen accepteert
Listen Port3000Poortnummer waarop de service inkomende verbindingen accepteert
FreeAI::ChatGPT presetdefaultPreset voor de FreeAI::ChatGPT scraper
FreeAI::Copilot presetdefaultPreset voor de FreeAI::Copilot scraper
FreeAI::DeepAI presetdefaultPreset voor de FreeAI::DeepAI scraper
FreeAI::GoogleAI presetdefaultPreset voor de FreeAI::GoogleAI scraper
FreeAI::Kimi presetdefaultPreset voor de FreeAI::Kimi scraper
FreeAI::Perplexity presetdefaultPreset voor de FreeAI::Perplexity scraper