Перейти к основному содержимому

FreeAI::Server::OpenAI — сервер OpenAI API на базе встроенных парсеров ИИ-моделей.

OpenAI Server

Обзор парсера

Парсер предоставляет возможность развернуть собственный OpenAI-совместимый API-сервер, к которому можно подключаться из ваших приложений (например, Cherry Studio, Cline и др.) и скриптов — как через официальный SDK OpenAI, так и с использованием обычных HTTP-запросов. Парсер дает доступ к бесплатным и платным моделям, которые парсит А-Парсер.

Перечень поддерживаемых моделей:

Подключение к Cherry Studio

  • Настройки (верхний правый угол)
  • Список провайдеров, в самом низу "добавить"
  • Задаем произвольное название, Provider type должен быть OpenAI
  • Прописываем API Key (любой ключ)
  • Прописываем хост (наистраивается в FreeAI::Server::OpenAI) изначально http://127.0.0.1:3000
  • Кнопка "Manage" добавляем нужные модели
Просмотреть видео подключения

подключение к cherry studio

Подключение через OpenAI SDK

Connection to FreeAI::Server::OpenAI via nodejs + openai sdk
Код из примера
import OpenAI from "openai";

(async function () {
const openai = new OpenAI({
baseURL: "http://127.0.0.1:3000/v1", //Ссылка по которой поднят FreeAI::Server::OpenAI
apiKey: "123", //АПИ ключ (обязательно, но не используется)
});

const completion = await openai.chat.completions.create({
model: "FreeAI::ChatGPT-gpt-4", //Модель FreeAI::Server::OpenAI
messages: [{ role: "user", content: "Why is the sky blue?" }], //Запрос
});

console.log(completion.choices[0].message.content); //Вывод ответа от ии модели
})();

Получение результата HTTP запросом

Connection to FreeAI::Server::OpenAI via nodejs http request
Код из примера
const resp = await fetch("http://127.0.0.1:3000/v1/chat/completions", {
method: "POST",
headers: {
Authorization: "Bearer 123",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "FreeAI::ChatGPT-gpt-4",
messages: [{ role: "user", content: "Области использования nodejs" }],
}),
});

if (!resp.ok) {
const text = await resp.text();
throw new Error(`HTTP ${resp.status}: ${text}`);
}

const data = await resp.json();
console.log(data.choices?.[0]?.message?.content);

Возможные настройки

Название параметраЗначение по умолчаниюОписание
Listen Host127.0.0.1IP-адрес или хостнейм интерфейса, на котором сервис принимает входящие соединения
Listen Port3000Номер порта, на котором сервис принимает входящие соединения
FreeAI::ChatGPT presetdefaultПресет для FreeAI::ChatGPT парсера
FreeAI::Copilot presetdefaultПресет для FreeAI::Copilot парсера
FreeAI::DeepAI presetdefaultПресет для FreeAI::DeepAI парсера
FreeAI::GoogleAI presetdefaultПресет для FreeAI::GoogleAI парсера
FreeAI::Kimi presetdefaultПресет для FreeAI::Kimi парсера
FreeAI::Perplexity presetdefaultПресет для FreeAI::Perplexity парсера