OpenAI संगत API दस्तावेज़ीकरण

आवश्यकताएँ: SDK और बेस URL

अपनी पसंदीदा लाइब्रेरी इंस्टॉल करें और इसे हमारे एंडपॉइंट की ओर इशारा करें। base_url है https://api.apicompatible.com/v1. यह openai compatible API दस्तावेज़ीकरण पुष्टि करता है कि मानक लाइब्रेरी तुरंत काम करती हैं। आपको एक रूटर या जटिल गेटवे सेटअप की आवश्यकता नहीं है। URL और कुंजी बदलें, फिर अपना मौजूदा कोड चलाएं।

प्रमाणीकरण: हेडर और कुंजी फॉर्मेट

अपनी कुंजी में भेजें Authorization हेडर। फॉर्मेट का उपयोग करें Bearer your_api_key. हमारा API मानक openai संगत API कुंजी संरचना का उपयोग करता है। कुंजियां Google या ईमेल लॉगिन के माध्यम से तुरंत जनरेट की जाती हैं। अपनी कुंजी को सुरक्षित रखें, क्योंकि यह आपके पूर्वभुगतान वाले क्रेडिट तक पहुंच प्रदान करती है।

चैट कंप्लीशंस एंडपॉइंट

POST अनुरोध /v1/chat/completionsमॉडल को uncensored. API सीधे टेक्स्ट प्रतिक्रियाएं लौटाता है। कनेक्टिविटी की जांच करने के लिए निम्नलिखित curl कमांड का उपयोग करें:

Copycurl https://api.apicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List available models"}]
  }'

यह एक ओपनai SDK संगत दृष्टिकोण है जो आपको असीमित टेक्स्ट जनरेशन प्रदान करता है। मॉडल जटिल प्रॉम्प्ट को संभालता है बिना कानूनी सामग्री के लिए अनावश्यक अस्वीकृति के।

SSE के साथ स्ट्रीमिंग रिस्पॉन्सेस

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true. प्रतिक्रियाएं सर्वर-संवादित घटनाओं (SSE) के माध्यम से आती हैं। टोकन उपयोग की जानकारी अंतिम चंक में दिखाई देती है। यह OpenAI-संगत API दस्तावेज़ीकरण मानक स्ट्रीमिंग प्रोटोकॉल का समर्थन करता है। इसका उपयोग वास्तविक समय के उपयोगकर्ता अनुभवों के लिए करें:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

स्ट्रीमिंग संक्रामक विलंबता को काफी कम करती है। यह मानक क्लाइंट-साइड लाइब्रेरी के साथ सहजता से काम करती है।

पैरामीटर: तापमान, Top-P, और टूल्स

मानक पैरामीटर का उपयोग करके जनरेशन को नियंत्रित करें। सेट करें temperature यादृच्छिकता या top_p न्यूक्लियस सैंपलिंग के लिए। सक्षम करें tools फ़ंक्शन कॉलिंग के लिए। JSON मोड उपलब्ध है response_format. The uncensored मॉडल इन बाधाओं का प्रभावी रूप से सम्मान करता है:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ये पैरामीटर आउटपुट शैली पर सूक्ष्म नियंत्रण की अनुमति देते हैं। आप प्रोग्रामेटिक उपयोग मामलों के लिए कठोर JSON संरचनाएं लागू कर सकते हैं।

सीमाएं: दर सीमाएं और शरीर आकार

प्रत्येक कुंजी प्रति मिनट 300 अनुरोधों की अनुमति देती है। समवर्ती अनुरोध प्रति कुंजी 8 तक सीमित हैं। अधिकतम अनुरोध बॉसी साइज 8 MB है। संदर्भ विंडो कुल मिलाकर 100,000 टोकन का समर्थन करती है। अपनी कुंजी जांचकर 401 त्रुटियों को संभालें। क्रेडिट टॉप अप करके 402 त्रुटियों को हल करें। बैकऑफ लॉजिक लागू करके 429 त्रुटियों का प्रबंधन करें।

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)