Documentazione API Compatibile con OpenAI

Prerequisiti: SDK e URL di base

Inizia installando la libreria preferita e puntandola al nostro endpoint. Il base_url è https://api.apicompatible.com/v1. La documentazione dell'API compatibile con OpenAI conferma che le librerie standard funzionano immediatamente. Non è necessario un router o una configurazione di gateway complessa. Cambia l'URL e la chiave, quindi esegui il tuo codice esistente.

Autenticazione: Formato dell'intestazione e della chiave

Invia la tua chiave in Authorization header. Usa il formato Bearer your_api_key. La nostra API utilizza la struttura standard della chiave API compatibile con OpenAI. Le chiavi vengono generate istantaneamente tramite accesso con Google o email. Mantieni la tua chiave al sicuro, poiché garantisce l'accesso al tuo credito prepagato.

Endpoint Chat Completions

Invia richieste a /v1/chat/completions. Specifica il modello come uncensored. L'API restituisce risposte di testo direttamente. Usa il seguente comando curl per verificare la connettività:

Copycurl https://api.apicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List available models"}]
  }'

Questo approccio compatibile con l'SDK di openai garantisce una generazione di testo senza restrizioni. Il modello gestisce prompt complessi senza rifiuti inutili per contenuti leciti.

Risposte in streaming con SSE

Abilita lo streaming impostando stream: true. Le risposte arrivano tramite Server-Sent Events (SSE). I dettagli sull'utilizzo dei token appaiono nell'ultimo chunk. Questa documentazione API compatibile con OpenAI supporta i protocolli di streaming standard. Usalo per esperienze utente in tempo reale:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Lo streaming riduce significativamente la latenza percepita. Funziona in modo trasparente con le librerie client standard.

Parametri: Temperatura, Top-P e Strumenti

Controlla la generazione con parametri standard. Imposta temperature per la casualità o top_p per il campionamento nucleare. Abilita tools per il function calling. La modalità JSON è disponibile tramite response_format. Il uncensored il modello rispetta efficacemente questi vincoli:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Questi parametri consentono un controllo fine sullo stile di output. Puoi imporre strutture JSON rigorose per casi d'uso programmatici.

Limiti: Limiti di velocità e dimensione del corpo

Ogni chiave consente 300 richieste al minuto. Le richieste concorrenti sono limitate a 8 per chiave. La dimensione massima del corpo della richiesta è di 8 MB. La finestra di contesto supporta 100.000 token in totale. Gestisci gli errori 401 verificando la tua chiave. Risolvi gli errori 402 ricaricando il credito. Gestisci gli errori 429 implementando la logica di backoff.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)