API dokumentáció heretic llm modellekhez

Base URL és Hitelesítés

Használat https://api.hereticllmmodels.com/v1 alap URL-ként. Add meg API kulcsodat a Authorization: Bearer <key> header. Kulcsok generálása Google-fiókkal vagy e-maillel. A tokeneket a felhasznált tokenek után számítjuk fel.

Első kérés

Küldjön egy POST kérést a következőre /v1/chat/completions. Használja a uncensored. Állítsa be max_tokens 16 000-re. A hibák ingyenesek. A hitel sosem jár le. Nincs havi díj.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

Python SDK

Telepítse a hivatalos OpenAI csomagot. Állítsa be a base_url az endpointunkra. Használja model="uncensored". A streamelés SSE-n keresztül működik. A tool use támogatott. JSON mód elérhető. A temperature szabályozza a véletlenszerűséget. A top_p a nucleus mintavételezést vezérli. A stop szekvenciák megállítják a generálást. A seed biztosítja az ismételhetőséget. A presence és frequency penalty-k csökkentik az ismétlődést. A hibák nem fogyasztanak kreditet.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Konfigurálja a Node.js klienst. Állítsa be helyesen az alap URL-t. Használja a uncensored model ID. Streamelje könnyen a válaszokat. Adjon át eszközöket funkcióhíváshoz. Érvényesítse a JSON kimeneti módot. Állítsa be a temperature és top_p értékeket. Állítson be stop szekvenciákat. Rögzítse a seed értékeket a konzisztencia érdekében. Alkalmazzon büntetési módosítókat. A hibák díjmentesek.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming és SSE

Beállítás stream: true a kérésben. Fogadja a Server-Sent Events (SSE)-t. Olvassa be a darabokat szekvenciálisan. A token számok az utolsó darabban jelennek meg. Ez a módszer jelentősen csökkenti az érzékelt késleltetést. Lehetővé teszi a generált szöveg valós idejű megjelenítését. A pufferkezelés az Ön felelőssége. Hibák még mindig előfordulhatnak streamelés közben. Kezelje a lekapcsolásokat gracefully.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limiterek és hibák

A kontextus ablak 100,000 token. Max kimenet 16,000 token. Korlát: percenként 300 kérés. 8 egyidejű kérés kulcsonként. Max testméret: 8 MB. Használj 401-et érvénytelen kulcsokhoz. Használj 402-et elégtelen hitelhez. Használj 429-et sebességkorlátokhoz.