Документація API, сумісного з OpenAI

Передумови: SDK та базовий URL

Почніть із встановлення бажаної бібліотеки та вказівки на нашу кінцеву точку. The base_url є https://api.apicompatible.com/v1. Документація API, сумісного з OpenAI, підтверджує, що стандартні бібліотеки працюють миттєво. Вам не потрібен маршрутизатор або складне налаштування шлюзу. Змініть URL та ключ, а потім запустіть свій існуючий код.

Аутентифікація: Формат заголовка та ключа

Надішліть свій ключ у Authorization header. Використовуйте формат Bearer your_api_key. Наш API використовує стандартну структуру ключа API, сумісну з OpenAI. Ключі генеруються миттєво через вхід у систему за допомогою Google або електронної пошти. Зберігайте свій ключ у безпеці, оскільки він надає доступ до вашого попередньо оплаченого кредитного балансу.

Ендпоінт Chat Completions

Надсилайте запити до /v1/chat/completions. Вкажіть модель як uncensored. API повертає текстові відповіді напряму. Використовуйте наступну команду curl для перевірки підключення:

Copycurl https://api.apicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List available models"}]
  }'

Цей підхід, сумісний із SDK OpenAI, гарантує вам генерацію необмеженого тексту. Модель обробляє складні запити без зайвих відмов для законного контенту.

Потокові відповіді з SSE

Увімкніть потокову передачу, встановивши stream: true. Відповіді надходять через Server-Sent Events (SSE). Деталі використання токенів з’являються у фінальному фрагменті. Ця OpenAI-сумісна документація API підтримує стандартні протоколи потокової передачі. Використовуйте це для інтерактивних користувацьких інтерфейсів:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потокова передача значно зменшує сприйняту затримку. Вона бездоганно працює зі стандартними бібліотеками на стороні клієнта.

Параметри: Temperature, Top-P та Інструменти

Керуйте генерацією за допомогою стандартних параметрів. Встановіть temperature для випадковості або top_p для вибірки за ядром (nucleus sampling). Увімкніть tools для виклику функцій. Режим JSON доступний через response_format. The uncensored модель ефективно дотримується цих обмежень:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ці параметри дозволяють тонко налаштувати стиль виводу. Ви можете примусово застосувати суворі структури JSON для програмних сценаріїв використання.

Ліміти: Ліміти швидкості та розмір тіла

Кожен ключ дозволяє 300 запитів на хвилину. Одночасні запити обмежені 8 на ключ. Максимальний розмір тіла запиту становить 8 МБ. Розмір контексту підтримує 100,000 токенів загальною місткістю. Обробляйте помилки 401, перевіряючи свій ключ. Вирішуйте помилки 402, поповнюючи кредит. Керуйте помилками 429, впроваджуючи логіку сповільнення.

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)