API-dokumentation til heretic llm-modeller
Få rå, upasset tekstgenerering med vores OpenAI-kpatible API. Denne quickstart guider dig til din første anmodning ved hjælp af standard SDK'er.
Base URL og autentificering
Brug https://api.hereticllmmodels.com/v1 som din base URL. Overfør din API-nøgle i Authorization: Bearer <key> header. Generer nøgler via Google- eller e-maillogin. Tokens opkræves per brugt token.
Første anmodning
Send en POST til /v1/chat/completions. Brug modellen uncensored. Indstil max_tokens til 16.000. Fejl er gratis. Kredit udløber aldrig. Der er ingen månedlige gebyrer.
curl https://api.hereticllmmodels.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
}'Python SDK
Installer den officielle OpenAI-pakke. Indstil base_url til vores endpoint. Brug model="uncensored". Streaming virker via SSE. Tool-brug understøttes. JSON-tilstand er tilgængelig. Temperature justerer tilfældighed. Top_p styrer nucleus-sampling. Stopsekvenser afbryder genereringen. Seed sikrer reproducerbarhed. Nærværs- og frekvensstraffe reducerer gentagelser. Fejl forbruger ikke kredit.
from openai import OpenAI
client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node SDK
Konfigurér Node.js-klienten. Indstil base URL korrekt. Brug uncensored model-ID. Stream responses nemt. Overfør tools til function calling. Tving JSON-outputmode. Juster temperatur og top_p. Indstil stop-sekvenser. Fastlæg seeds for konsistens. Anvend penalty-modifikatorer. Fejl er gratis.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming og SSE
Indstil stream: true i din request. Modtag Server-Sent Events (SSE). Analyser chunks sekventielt. Token-tal vises i den sidste chunk. Denne metode reducerer den opfattede latens betydeligt. Den giver realtidsvisning af genereret tekst. Bufferhåndtering forbliver dit ansvar. Fejl kan stadig opstå undervejs i streamen. Håndter disconnects elegant.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Limits and Errors
Kontekstvinduet er 100.000 tokens. Max output er 16.000 tokens. Grænsen er 300 anmodninger i minuttet. Tillad 8 concurrent anmodninger per nøgle. Max body-størrelse er 8 MB. Brug 401 til ugyldige nøgler. Brug 402 til utilstrækkelig kredit. Brug 429 til hastighedsbegrænsninger.
Almindelige spørgsmål
Hvad er heretic LLM-modellenes kontekstgrænse?
Kontekstvinduet understøtter 100.000 tokens kombineret. Dette inkluderer både din input-prompt og modellens' output. Du kan generere op til 16.000 tokens per anmodning.
Hvordan håndterer jeg fejl og fakturering?
Fejl og afvisninger er gratis. Du betaler kun for succesfuldt genererede tokens. Kredit udløber aldrig og kræver ikke et abonnement. Brug 402-koder til at tjekke din saldotilstand.
Hvilke autentificeringsmetoder er tilgængelige?
Tilmeld dig med Google eller e-mail. Generér en enkelt API-nøgle pr. konto. Overfør den via Authorization-headeren. Intet telefonnummer kræves for tilmelding.
Sikr din API-nøgle
Registrer, hent din nøgle, opdater endpointet. Minimal konfiguration kræves.
