Passer au contenu principal

FreeAI::Server::OpenAI — serveur OpenAI API basé sur les scrapers intégrés de modèles IA.

OpenAI Server

Présentation du scraper

Le scraper permet de déployer votre propre serveur API compatible OpenAI, auquel vous pouvez vous connecter depuis vos applications (par exemple, Cherry Studio, Cline, etc.) et vos scripts — soit via le SDK officiel d'OpenAI, soit en utilisant des requêtes HTTP classiques. Le scraper donne accès aux modèles gratuits et payants collectés par A-Parser.

Liste des modèles pris en charge :

Connexion à Cherry Studio

  • Paramètres (coin supérieur droit)
  • Liste des fournisseurs, tout en bas "ajouter"
  • Définissez un nom arbitraire, le Provider type doit être OpenAI
  • Renseignez l'API Key (n'importe quelle clé)
  • Renseignez l'hôte (configuré dans FreeAI::Server::OpenAI) par défaut http://127.0.0.1:3000
  • Bouton "Manage" pour ajouter les modèles souhaités
Voir la vidéo de connexion

connexion à cherry studio

Connexion via le SDK OpenAI

Connexion à FreeAI::Server::OpenAI via nodejs + openai sdk
Code de l'exemple
import OpenAI from "openai";

(async function () {
const openai = new OpenAI({
baseURL: "http://127.0.0.1:3000/v1", //Lien sur lequel FreeAI::Server::OpenAI est lancé
apiKey: "123",
});

const completion = await openai.chat.completions.create({
model: "FreeAI::ChatGPT", //Le modèle est le nom du scraper de la liste FreeAI::Server::OpenAI, liste des modèles supportés dans la section "Présentation du scraper"
messages: [{ role: "user", content: "Why is the sky blue?" }], //Requête au modèle
});

console.log(completion.choices[0].message.content); //Affichage de la réponse du modèle IA
})();

Obtention du résultat par requête HTTP

Connexion à FreeAI::Server::OpenAI via requête http nodejs
Code de l'exemple
const resp = await fetch("http://127.0.0.1:3000/v1/chat/completions", {
method: "POST",
headers: {
Authorization: "Bearer 123",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "FreeAI::ChatGPT", //Le modèle est le nom du scraper de la liste FreeAI::Server::OpenAI, liste des modèles supportés dans la section "Présentation du scraper"
messages: [{ role: "user", content: "Domaines d'utilisation de nodejs" }], //Requête au modèle
}),
});

if (!resp.ok) {
const text = await resp.text();
throw new Error(`HTTP ${resp.status}: ${text}`);
}

const data = await resp.json();
console.log(data.choices?.[0]?.message?.content);

Paramètres possibles

Nom du paramètreValeur par défautDescription
Listen Host127.0.0.1Adresse IP ou nom d'hôte de l'interface sur laquelle le service accepte les connexions entrantes
Listen Port3000Numéro de port sur lequel le service accepte les connexions entrantes
FreeAI::ChatGPT presetdefaultPréréglage pour le scraper FreeAI::ChatGPT
FreeAI::Copilot presetdefaultPréréglage pour le scraper FreeAI::Copilot
FreeAI::DeepAI presetdefaultPréréglage pour le scraper FreeAI::DeepAI
FreeAI::GoogleAI presetdefaultPréréglage pour le scraper FreeAI::GoogleAI
FreeAI::Kimi presetdefaultPréréglage pour le scraper FreeAI::Kimi
FreeAI::Perplexity presetdefaultPréréglage pour le scraper FreeAI::Perplexity