Dokumentace API pro modely heretic llm
Získejte surovou generaci textu bez omezení pomocí našeho API kompatibilního s OpenAI. Tento rychlý start vás provede prvním požadavkem pomocí standardních SDK.
Základní URL a ověření
Použít https://api.hereticllmmodels.com/v1 jako vaši základní URL. Předajte svůj API klíč v Authorization: Bearer <key> hlavička. Generujte klíče přes přihlášení Google nebo e-mail. Tokeny se účtují za každý použitý token.
První požadavek
Odešlete POST na /v1/chat/completions. Použijte model uncensored. Nastavte max_tokens na 16 000. Chyby jsou zdarma. Kredit nikdy nevyprší. Žádné měsíční poplatky se neuplatňují.
curl https://api.hereticllmmodels.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
}'Python SDK
Nainstalujte oficiální balíček OpenAI. Nastavte base_url na náš endpoint. Použijte model="uncensored". Streamování probíhá přes SSE. Podporováno je používání nástrojů. K dispozici je režim JSON. Teplota ovládá náhodnost. Top_p řídí nucleus sampling. Sekvence stop zastaví generování. Seed zajišťuje reprodukovatelnost. Přítomnost a frekvenční penalizace snižují opakování. Chyby nespotřebují kredit.
from openai import OpenAI
client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)SDK pro Node
Nastavte Node.js klienta. Nastavte základní URL správně. Použijte uncensored ID modelu. Snadno streamujte odpovědi. Předávejte nástroje pro volání funkcí. Vynucujte režim výstupu JSON. Upravte teplotu a top_p. Nastavte sekvence stop. Fixujte semena pro konzistenci. Aplikujte modifikátory penalizace. Chyby jsou bezplatné.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamování a SSE
Nastavit stream: true v požadavku. Obdržte Server-Sent Events (SSE). Parsovejte části sekvenčně. Počty tokenů se objeví v poslední části. Tato metoda významně snižuje vnímanou latenci. Umožňuje reálné zobrazení vygenerovaného textu. Správa bufferů zůstává na vaší odpovědnosti. Chyby se mohou stále objevit během streamu. Zvládněte odpojení hladce.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Limity a chyby
Kontextové okno je 100 000 tokenů. Maximální výstup je 16 000 tokenů. Limit je 300 požadavků za minutu. Povolte 8 souběžných požadavků na klíč. Maximální velikost těla je 8 MB. Použijte 401 pro neplatné klíče. Použijte 402 pro nedostatečný kredit. Použijte 429 pro limity frekvence.
Časté otázky
Jaký je limit kontextu modelů LLM heretic?
Kontextové okno podporuje 100 000 tokenů celkem. To zahrnuje jak váš vstupní prompt, tak výstup modelu. V jednom požadavku můžete vygenerovat až 16 000 tokenů.
Jak řešit chyby a fakturaci?
Chyby a odmítnutí jsou zdarma. Platíte pouze za úspěšně vygenerované tokeny. Kredit nevyprší a nevyžaduje předplatné. Pro kontrolu stavu zůstatku používejte kódy 402.
Jaké jsou dostupné metody ověřování?
Zaregistrujte se pomocí Google nebo e-mailu. Pro každý účet se vygeneruje jeden klíč API. Předávejte jej v hlavičce Authorization. Pro registraci není vyžadováno telefonní číslo.
Zabezpečte svůj API klíč
Zaregistrujte se, získejte svůj klíč, aktualizujte koncový bod. Vyžaduje se minimální konfigurace.
