תיעוד API למודלי heretic llm

כתובת URL בסיסית ואימות

שימוש https://api.hereticllmmodels.com/v1 ככתובת הבסיס שלך. העבר את מפתח ה-API שלך ב- Authorization: Bearer <key> כותרת. צור מפתחות באמצעות התחברות עם Google או דוא"ל. טוקנים נגבים לפי הטוקן שבושם.

בקשה ראשונה

שלח POST ל /v1/chat/completions. השתמש במודל uncensored. הגדירו max_tokens ל-16,000. שגיאות הן חינם. אשראי לא פג תוקף. אין עמלות חודשיות.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

התקן את החבילה הרשמית של OpenAI. הגדר את base_url לנקודת הקצה שלנו. השתמש model="uncensored". הזרמה עובדת באמצעות SSE. שימוש בכלים נתמך. מצב JSON זמין. הטמפרטורה מתאימה את האקראיות. Top_p שולט בדגימת גרעין. רצפי עצירה עוצרים יצירה. Seed מבטיח שחזוריות. קנסות נוכחות ותדירות מפחיתים חזרתיות. שגיאות אינן צורכות אשראי.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

הגדר את לקוח Node.js. הגדר את כתובת הבסיס נכון. השתמש ב- uncensored מזהה המודל. סטרים תגובות בקלות. העבר כלים לקריאת פונקציות. הטל מצב פלט JSON. התאם טמפרטורה ו-top_p. הגדר רצפי עצירה. קבע זרעים לעקביות. החל מודפסי עונש. שגיאות הן ללא עלות.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

סטרימינג ו-SSE

הגדר stream: true בבקשה שלך. קבל אירועים שנשלחים מהשרת (SSE). נתח נתחים ברצף. ספירות אסימונים מופיעות בנתח הסופי. שיטה זו מפחיתה משמעותית את תחומת הזמן המוחשית. היא מאפשרת תצוגה בזמן אמת של טקסט שנוצר. ניהול ה-buffer נשאר באחריותך. עדיין עשויים להתרחש שגיאות במהלך הזרם. טפל בהתנתקויות בצורה אלגנטית.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

מגבלות ושגיאות

חלון הקשר הוא 100,000 טוקנים. מקסימום פלט הוא 16,000 טוקנים. מגבלה היא 300 בקשות לדקה. אפשרו 8 בקשות מקבילות למפתח. גודל גוף מקסימלי הוא 8 MB. השתמשו ב-401 למפתחות לא חוקיים. השתמשו ב-402 לאשראי לא מספיק. השתמשו ב-429 למגבלות קצב.