OpenAI-kompatible API-Dokumentation

Voraussetzungen: SDK und Base-URL

Installieren Sie Ihre bevorzugte Bibliothek und verweisen Sie sie auf unseren Endpunkt. Der base_url ist https://api.apicompatible.com/v1. Die OpenAI-kompatible API-Dokumentation bestätigt, dass Standardbibliotheken sofort funktionieren. Sie benötigen keinen Router oder komplexe Gateway-Einrichtung. Ändern Sie die URL und den Schlüssel, dann führen Sie Ihren bestehenden Code aus.

Authentifizierung: Header- und Schlüssel-Format

Senden Sie Ihren Schlüssel in den Authorization header. Verwenden Sie das Format Bearer your_api_key. Unsere API verwendet die Standardstruktur des OpenAI-kompatiblen API-Schlüssels. Schlüssel werden sofort über Google- oder E-Mail-Anmeldung generiert. Bewahren Sie Ihren Schlüssel sicher auf, da er Zugriff auf Ihr vorgeladenes Guthaben gewährt.

Chat-Vervollständigungs-Endpunkt

Senden Sie Anfragen an /v1/chat/completions. Geben Sie das Modell als uncensored. Die API gibt Textantworten direkt zurück. Verwenden Sie den folgenden curl-Befehl, um die Konnektivität zu überprüfen:

Copycurl https://api.apicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List available models"}]
  }'

Dieser OpenAI-SDK-kompatible Ansatz stellt sicher, dass Sie uneingeschränkte Textgenerierung erhalten. Das Modell verarbeitet komplexe Prompts ohne unnötige Ablehnungen für rechtmäßige Inhalte.

Streaming-Antworten mit SSE

Aktivieren Sie Streaming, indem Sie stream: true. Antworten kommen über Server-Sent Events (SSE). Details zur Token-Nutzung erscheinen im letzten Chunk. Diese OpenAI-kompatible API-Dokumentation unterstützt Standard-Streaming-Protokolle. Verwenden Sie dies für Echtzeit-Benutzererfahrungen:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming reduziert die wahrgenommene Latenz erheblich. Es funktioniert nahtlos mit Standard-Clientside-Bibliotheken.

Parameter: Temperatur, Top-P und Tools

Steuern Sie die Generierung mit Standardparametern. Legen Sie temperature für Zufälligkeit oder top_p für Nucleus-Sampling. Aktivieren Sie tools für Function Calling. Der JSON-Modus ist verfügbar über response_format. Die uncensored Das Modell berücksichtigt diese Einschränkungen effektiv:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Diese Parameter ermöglichen eine feine Abstimmung des Ausgabe-Stils. Sie können strenge JSON-Strukturen für programmatische Anwendungsfälle erzwingen.

Limits: Ratenlimits und Körpergröße

Jeder Schlüssel erlaubt 300 Anfragen pro Minute. Gleichzeitige Anfragen sind auf 8 pro Schlüssel begrenzt. Die maximale Anfrage-Body-Größe beträgt 8 MB. Das Kontextfenster unterstützt insgesamt 100.000 Tokens. Behandeln Sie 401-Fehler, indem Sie Ihren Schlüssel überprüfen. Lösen Sie 402-Fehler auf, indem Sie Guthaben aufladen. Verwalten Sie 429-Fehler, indem Sie Backoff-Logik implementieren.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)