Документація API для моделей heretic llm

Базова URL-адреса та аутентифікація

Використовувати https://api.hereticllmmodels.com/v1 як вашу базову URL-адресу. Передайте свій API-ключ у Authorization: Bearer <key> header. Генеруйте ключі через вхід через Google або електронну пошту. Токени нараховуються за кожен використаний токен.

Перший запит

Відправте POST на /v1/chat/completions. Використовуйте модель uncensored. Встановіть max_tokens to 16,000. Errors are free. Credit never expires. No monthly fees apply.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

Встановіть офіційний пакет OpenAI. Встановіть base_url до нашого ендпоінту. Використовуйте model="uncensored". Потокова передача працює через SSE. Підтримується використання інструментів. Доступний режим JSON. Температура регулює випадковість. Top_p контролює вибірку за ядром. Символи зупинки припиняють генерацію. Задане число забезпечує відтворюваність. Штрафи за наявність та частоту зменшують повторення. Помилки не споживають кредити.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Налаштуйте клієнт Node.js. Встановіть базовий URL правильно. Використовуйте uncensored model ID. Легко отримуйте потокові відповіді. Передавайте інструменти для виклику функцій. Увімкніть режим виводу JSON. Налаштуйте temperature та top_p. Встановіть послідовності зупинки. Виправте насіння для узгодженості. Застосуйте модифікатори штрафів. Помилки безкоштовні.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача та SSE

Встановити stream: true у запиті. Отримуйте події Server-Sent Events (SSE). Парсуйте фрагменти послідовно. Кількість токенів з'являється в останньому фрагменті. Цей метод значно зменшує сприйняту затримку. Він дозволяє відображати згенерований текст у реальному часі. Управління буфером залишається на вашій відповідальності. Помилки все ще можуть виникати під час потоку. Обробляйте відключення коректно.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ліміти та помилки

Контекстне вікно становить 100 000 токенів. Максимальний вивід становить 16 000 токенів. Ліміт — 300 запитів на хвилину. Дозволено 8 одночасних запитів на ключ. Максимальний розмір тіла — 8 МБ. Використовуйте 401 для недійсних ключів. Використовуйте 402 для недостатнього кредиту. Використовуйте 429 для лімітів швидкості.