API दस्तावेज़ीकरण heretic llm मॉडल्स के लिए

बेस URL और प्रमाणीकरण

उपयोग करें https://api.hereticllmmodels.com/v1 अपने बेस URL के रूप में। अपनी API कुंजी Authorization: Bearer <key> हेडर। Google या ईमेल लॉगिन के माध्यम से कुंजियां जनरेट करें। टोकन उपयोग किए गए टोकन के प्रति चार्ज किए जाते हैं।

पहला अनुरोध

में एक POST भेजें /v1/chat/completions. मॉडल का उपयोग करें uncensoredसेट करें max_tokens 16,000 तक। त्रुटियां मुफ्त हैं। क्रेडिट कभी समाप्त नहीं होता। कोई मासिक शुल्क लागू नहीं होता।

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

Python SDK

औपचारिक OpenAI पैकेज को इंस्टॉल करें। सेट करें base_url हमारे एंडपॉइंट पर। उपयोग करें model="uncensored". स्ट्रीमिंग SSE के माध्यम से काम करता है। टूल उपयोग समर्थित है। JSON मोड उपलब्ध है। तापमान यादृच्छिकता को नियंत्रित करता है। Top_p न्यूक्लियस सैंपलिंग को नियंत्रित करता है। स्टॉप सीक्वेंस जनरेशन को रोकता है। सीड पुनरुत्पादकता सुनिश्चित करता है। उपस्थिति और आवृत्ति दंड दोहराव को कम करते हैं। त्रुटियां क्रेडिट नहीं खातीं।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Node.js क्लाइंट कॉन्फ़िगर करें। बेस URL को सही ढंग से सेट करें। उपयोग करें uncensored मॉडल ID। आसानी से रिस्पॉन्स स्ट्रीम करें। फंक्शन कॉलिंग के लिए टूल पास करें। JSON आउटपुट मोड लागू करें। तापमान और top_p समायोजित करें। स्टॉप सीक्वेंस सेट करें। स्थिरता के लिए सीड फिक्स करें। पेनल्टी मॉडिफायर लागू करें। त्रुटियाँ मुफ्त हैं।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग और SSE

सेट करें stream: true अपने अनुरोध में। सर्वर-संदेशित इवेंट्स (SSE) प्राप्त करें। चंक को क्रमिक रूप से पार्स करें। टोकन गणना अंतिम चंक में प्रकट होती है। यह विधि अनुभवगत विलंबता को काफी कम करती है। यह जनरेटेड टेक्स्ट का रियल-टाइम प्रदर्शन संभव बनाती है। बफर प्रबंधन आपकी जिम्मेदारी रहता है। स्ट्रीम के बीच में त्रुटियां अभी भी हो सकती हैं। डिस्कनेक्ट को सहजता से हैंडल करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

सीमाएं और त्रुटियां

संदर्भ विंडो 100,000 टोकन है। अधिकतम आउटपुट 16,000 टोकन है। सीमा प्रति मिनट 300 अनुरोध है। प्रति कुंजी 8 समवर्ती अनुरोध की अनुमति दें। अधिकतम बॉई आकार 8 MB है। अमान्य कुंजियों के लिए 401 का उपयोग करें। अपर्याप्त क्रेडिट के लिए 402 का उपयोग करें। दर सीमाओं के लिए 429 का उपयोग करें।