What is the heretic LLM models context limit?

The context window supports 100,000 tokens combined. This includes both your input prompt and the model's output. You can generate up to 16,000 tokens per request.

How do I handle errors and billing?

Errors and refusals are free. You only pay for successfully generated tokens. Credit never expires and does not require a subscription. Use 402 codes to check your balance status.

What authentication methods are available?

Sign up with Google or email. Generate a single API key per account. Pass it via the Authorization header. No phone number is required for registration.

Dokumentacja API - Kompatybilne z OpenAI Punkty końcowe

Bazowy URL i autoryzacja

Użyj https://api.hereticllmmodels.com/v1 jako swój bazowy adres URL. Przekaż swój klucz API w Authorization: Bearer <key> Nagłówek. Generuj klucze za pomocą logowania Google lub e-mail. Tokeny są rozliczane za każdy użyty token.

Pierwsze żądanie

Wyślij POST do /v1/chat/completions. Użyj modelu uncensored. Ustaw max_tokens to 16,000. Errors are free. Credit never expires. No monthly fees apply.

curl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

Zainstaluj oficjalny pakiet OpenAI. Ustaw base_url do naszego punktu końcowego. Użyj model="uncensored". Strumieniowanie działa przez SSE. Obsługiwane jest używanie narzędzi. Tryb JSON jest dostępny. Temperatura reguluje losowość. Top_p kontroluje próbkowanie jądra. Sekcje stopu przerywają generowanie. Ziarno zapewnia powtarzalność. Kary za obecność i częstotliwość zmniejszają powtarzalność. Błędy nie zużywają kredytu.

from openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK Node

Skonfiguruj klienta Node.js. Ustaw poprawnie adres URL bazowy. Użyj uncensored ID modelu. Łatwo strumieniuj odpowiedzi. Przekaż narzędzia do wywoływania funkcji. Wymuś tryb wyjścia JSON. Dostosuj temperaturę i top_p. Ustaw sekwencje stop. Ustal ziarna (seedy) dla spójności. Zastosuj modyfikatory kar. Błędy są darmowe.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie i SSE

Ustaw stream: true w żądaniu. Otrzymuj zdarzenia wysyłane serwerowo (SSE). Analizuj fragmenty sekwencyjnie. Liczby tokenów pojawiają się w ostatnim fragmencie. Ta metoda znacząco zmniejsza postrzeganą opóźnienie. Pozwala na rzeczywiste wyświetlanie wygenerowanego tekstu. Zarządzanie buforem pozostaje Twoją odpowiedzialnością. Błędy mogą nadal wystąpić w trakcie strumienia. Obsłuż rozłączenia w sposób elegancki.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity i błędy

Okno kontekstowe wynosi 100 000 tokenów. Maksymalne wyjście wynosi 16 000 tokenów. Limit to 300 żądań na minutę. Pozwól na 8 równoległych żądań na klucz. Maksymalny rozmiar ciała to 8 MB. Użyj 401 dla nieprawidłowych kluczy. Użyj 402 dla niewystarczającego kredytu. Użyj 429 dla limitów szybkości.

Dokumentacja API dla modeli heretic llm