مستندات API برای مدل‌های heretic llm

URL پایه و احراز هویت

استفاده https://api.hereticllmmodels.com/v1 به‌عنوان آدرس پایه (base URL). کلید API خود را در Authorization: Bearer <key> هدر. کلیدها را از طریق ورود با گوگل یا ایمیل ایجاد کنید. توکن‌ها به ازای هر توکن استفاده شده هزینه می‌شوند.

اولین درخواست

یک POST به /v1/chat/completions. از مدل uncensored. تنظیم max_tokens to 16,000. Errors are free. Credit never expires. No monthly fees apply.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

پکیج رسمی OpenAI را نصب کنید. مقدار base_url به نقطه پایان. استفاده model="uncensored". استریم از طریق SSE انجام می‌شود. استفاده از ابزار پشتیبانی می‌شود. حالت JSON موجود است. دما (Temperature) تصادفی‌سازی را تنظیم می‌کند. Top_p نمونه‌گیری هسته را کنترل می‌کند. دنباله‌های توقف تولید را متوقف می‌کند. بذر (Seed) قابلیت بازتولید را تضمین می‌کند. جریمه‌های حضور و تکرار تکرار را کاهش می‌دهند. خطاها اعتبار مصرف نمی‌کنند.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

مشتری Node.js را پیکربندی کنید. URL پایه را به‌درستی تنظیم کنید. از uncensored شناسه مدل. پاسخ‌ها را به‌راحتی استریم کنید. ابزارها را برای فراخوانی تابع ارسال کنید. حالت خروجی JSON را اعمال کنید. دما و top_p را تنظیم کنید. دنباله‌های توقف را تنظیم کنید. seeds را برای ثبات تنظیم کنید. اصلاح‌کننده‌های جریمه را اعمال کنید. خطاها رایگان هستند.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

استریمینگ و SSE

تنظیم stream: true در درخواست. رویدادهای ارسال‌شده توسط سرور (SSE) را دریافت کنید. قطعات را به صورت ترتیبی تجزیه کنید. شمارش توکن‌ها در قطعه نهایی ظاهر می‌شود. این روش تاخیر ادراک‌شده را به طور قابل توجهی کاهش می‌دهد. این اجازه می‌دهد متن تولید شده به صورت بلادرنگ نمایش داده شود. مدیریت بافر مسئولیت شما باقی می‌ماند. خطاها ممکن است در میانه جریان رخ دهند. قطع ارتباط را به صورت شایسته مدیریت کنید.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limits and Errors

پنجره زمینه ۱۰۰,۰۰۰ توکن است. حداکثر خروجی ۱۶,۰۰۰ توکن است. محدودیت ۳۰۰ درخواست در دقیقه است. اجازه ۸ درخواست همزمان در هر کلید را بدهید. حداکثر اندازه بدنه ۸ مگابایت است. از ۴۰۱ برای کلیدهای نامعتبر استفاده کنید. از ۴۰۲ برای اعتبار ناکافی استفاده کنید. از ۴۲۹ برای محدودیت‌های نرخ استفاده کنید.