Τεκμηρίωση API για μοντέλα heretic llm

Βασικό URL και Αυθεντικοποίηση

Χρήση https://api.hereticllmmodels.com/v1 ως τη βάση URL. Περνάτε το κλειδί API σας στο Authorization: Bearer <key> header. Δημιουργήστε κλειδιά μέσω σύνδεσης με Google ή email. Τα tokens χρεώνονται ανά token που χρησιμοποιείται.

Πρώτη αίτηση

Στείλτε POST στο /v1/chat/completions. Χρησιμοποιήστε το μοντέλο uncensored. Ρυθμίστε max_tokens σε 16.000. Τα σφάλματα είναι δωρεάν. Το credit δεν λήγει. Δεν ισχύουν μηνιαίες χρεώσεις.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

Εγκαταστήστε το επίσημο πακέτο OpenAI. Ορίστε base_url στο endpoint. Χρησιμοποιήστε model="uncensored". Η ροή δεδομένων (streaming) λειτουργεί μέσω SSE. Υποστηρίζεται η χρήση εργαλείων. Διαθέσιμη η λειτουργία JSON. Η ρύθμιση Temperature ρυθμίζει την τυχαιότητα. Το Top_p ελέγχει τον πυρηνικό δειγματοληπτισμό. Οι ακολουθίες διακοπής σταματούν τη δημιουργία. Το Seed διασφαλίζει την αναπαραγωγιμότητα. Οι ποινές παρουσίας και συχνότητας μειώνουν την επανάληψη. Τα σφάλματα δεν καταναλώνουν πιστωτικό υπόλοιπο.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Ρυθμίστε τον πελάτη Node.js. Ορίστε τη βάση URL σωστά. Χρησιμοποιήστε το uncensored το ID του μοντέλου. Ροές απαντήσεων εύκολα. Περάστε εργαλεία για κλήση συναρτήσεων. Εφαρμόστε λειτουργία εξόδου JSON. Ρυθμίστε temperature και top_p. Ορίστε stop sequences. Ορίστε seeds για συνέπεια. Εφαρμόστε τροποποιητές ποινών. Δεν υπάρχουν σφάλματα.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή και SSE

Ορίστε stream: true στο αίτημά σας. Λάβετε Server-Sent Events (SSE). Αναλύστε κομμάτια διαδοχικά. Οι μετρήσεις tokens εμφανίζονται στο τελευταίο κομμάτι. Αυτή η μέθοδος μειώνει σημαντικά την αντιλαμβανόμενη καθυστέρηση. Επιτρέπει την πραγμα-time εμφάνιση παραγόμενου κειμένου. Η διαχείριση buffer παραμένει ευθύνη σας. Τα σφάλματα μπορεί να εξακολουθούν να εμφανίζονται στη μέση της ροής. Αντιμετωπίστε αποσυνδέσεις με χάρη.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Όρια και Σφάλματα

Το context window είναι 100.000 tokens. Μέγιστη έξοδος είναι 16.000 tokens. Όριο είναι 300 αιτήσεις ανά λεπτό. Επιτρέψτε 8 ταυτόχρονες αιτήσεις ανά κλειδί. Μέγιστο μέγεθος σώματος είναι 8 MB. Χρησιμοποιήστε 401 για μη έγκυρα κλειδιά. Χρησιμοποιήστε 402 για ανεπαρκές credit. Χρησιμοποιήστε 429 για όρια ρυθμού.