Chuyển đến nội dung chính

FreeAI::Server::OpenAI — máy chủ OpenAI API dựa trên các công cụ cào dữ liệu tích hợp của các mô hình AI.

OpenAI Server

Tổng quan về công cụ cào dữ liệu

Công cụ cào dữ liệu cung cấp khả năng triển khai máy chủ API tương thích với OpenAI của riêng bạn, máy chủ này có thể được kết nối từ các ứng dụng của bạn (ví dụ: Cherry Studio, Cline, v.v.) và các tập lệnh — thông qua SDK OpenAI chính thức hoặc sử dụng các yêu cầu HTTP thông thường. Công cụ cào dữ liệu cung cấp quyền truy cập vào các mô hình miễn phí và trả phí mà A-Parser cào được.

Danh sách các mô hình được hỗ trợ:

Kết nối với Cherry Studio

  • Cài đặt (góc trên bên phải)
  • Danh sách nhà cung cấp, ở dưới cùng chọn "add"
  • Đặt tên tùy ý, Provider type phải là OpenAI
  • Nhập API Key (bất kỳ khóa nào)
  • Nhập host (được cấu hình trong FreeAI::Server::OpenAI) ban đầu là http://127.0.0.1:3000
  • Nút "Manage" để thêm các mô hình cần thiết
Xem video hướng dẫn kết nối

kết nối với cherry studio

Kết nối qua OpenAI SDK

Kết nối tới FreeAI::Server::OpenAI qua nodejs + openai sdk
Mã ví dụ
import OpenAI from "openai";

(async function () {
const openai = new OpenAI({
baseURL: "http://127.0.0.1:3000/v1", //Link mà FreeAI::Server::OpenAI đang chạy
apiKey: "123",
});

const completion = await openai.chat.completions.create({
model: "FreeAI::ChatGPT", //Mô hình là tên của công cụ cào dữ liệu từ danh sách FreeAI::Server::OpenAI, danh sách các mô hình được hỗ trợ trong phần "Tổng quan về công cụ cào dữ liệu"
messages: [{ role: "user", content: "Why is the sky blue?" }], //Truy vấn tới mô hình
});

console.log(completion.choices[0].message.content); //Xuất phản hồi từ mô hình AI
})();

Nhận kết quả bằng yêu cầu HTTP

Kết nối tới FreeAI::Server::OpenAI qua nodejs http request
Mã ví dụ
const resp = await fetch("http://127.0.0.1:3000/v1/chat/completions", {
method: "POST",
headers: {
Authorization: "Bearer 123",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "FreeAI::ChatGPT", //Mô hình là tên của công cụ cào dữ liệu từ danh sách FreeAI::Server::OpenAI, danh sách các mô hình được hỗ trợ trong phần "Tổng quan về công cụ cào dữ liệu"
messages: [{ role: "user", content: "Các lĩnh vực sử dụng nodejs" }], //Truy vấn tới mô hình
}),
});

if (!resp.ok) {
const text = await resp.text();
throw new Error(`HTTP ${resp.status}: ${text}`);
}

const data = await resp.json();
console.log(data.choices?.[0]?.message?.content);

Các cài đặt khả dụng

Tên tham sốGiá trị mặc địnhMô tả
Listen Host127.0.0.1Địa chỉ IP hoặc hostname của giao diện mà dịch vụ chấp nhận các kết nối đến
Listen Port3000Số cổng mà dịch vụ chấp nhận các kết nối đến
FreeAI::ChatGPT presetdefaultPreset cho công cụ cào dữ liệu FreeAI::ChatGPT
FreeAI::Copilot presetdefaultPreset cho công cụ cào dữ liệu FreeAI::Copilot
FreeAI::DeepAI presetdefaultPreset cho công cụ cào dữ liệu FreeAI::DeepAI
FreeAI::GoogleAI presetdefaultPreset cho công cụ cào dữ liệu FreeAI::GoogleAI
FreeAI::Kimi presetdefaultPreset cho công cụ cào dữ liệu FreeAI::Kimi
FreeAI::Perplexity presetdefaultPreset cho công cụ cào dữ liệu FreeAI::Perplexity