Documentație API pentru modele heretic llm

URL de bază și autentificare

Utilizare https://api.hereticllmmodels.com/v1 ca URL-ul tău de bază. Transmite-ți cheia API în Authorization: Bearer <key> header. Generează chei prin autentificare Google sau email. Tokenii sunt charge-uiți per token utilizat.

Prima cerere

Trimiteți un POST la /v1/chat/completions. Folosiți modelul uncensored. Setează max_tokens că 16.000. Erorile sunt gratuite. Creditul nu expiră. Nu se aplică taxe lunare.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

Instalează pachetul oficial OpenAI. Setează base_url către endpoint-ul nostru. Folosește model="uncensored". Streamingul funcționează prin SSE. Se suportă utilizarea de instrumente. Este disponibil modul JSON. Temperatura ajustează aleatorietatea. Top_p controlează eșantionarea nucleului. Secvențele de oprire opresc generarea. Seed-ul asigură reproductibilitatea. Penalizările de prezență și frecvență reduc repetarea. Erorile nu consumă credit.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK Node

Configurează clientul Node.js. Setează URL-ul de bază corect. Folosește uncensored ID-ul modelului. Fluxează răspunsurile ușor. Transmite unelte pentru apelarea funcțiilor. Impune modul de output JSON. Ajustează temperatura și top_p. Setează secvențe de oprire. Fixează sămânța pentru consistență. Aplică modificatori de penalizare. Nu există erori.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming și SSE

Setează stream: true în solicitarea dvs. Primește Evenimente trimise de server (SSE). Analizează bucățile secvențial. Contoarele de tokeni apar în ultima bucată. Această metodă reduce semnificativ latența percepută. Permite afișarea în timp real a textului generat. Gestionarea bufferelor rămâne responsabilitatea ta. Erorile pot apărea încă în timpul fluxului. Gestionează deconectările cu grație.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limite și Erori

Fereastra de context este de 100.000 de tokeni. Output-ul maxim este de 16.000 de tokeni. Limita este de 300 de solicitări pe minut. Permite 8 solicitări concurente per cheie. Dimensiunea maximă a corpului este de 8 MB. Folosește 401 pentru chei invalide. Folosește 402 pentru credit insuficient. Folosește 429 pentru limite de rată.