เอกสาร API สำหรับโมเดล heretic llm

URL ฐานและการตรวจสอบสิทธิ์

ใช้ https://api.hereticllmmodels.com/v1 เป็น URL พื้นฐาน ส่งคีย์ API ของคุณใน Authorization: Bearer <key> header สร้างคีย์ผ่านการลงชื่อเข้าใช้ด้วย Google หรืออีเมล โทเค็นจะถูกเรียกเก็บตามโทเค็นที่ใช้

คำขอครั้งแรก

ส่ง POST ไปยัง /v1/chat/completions. ใช้โมเดล uncensored. ตั้งค่า max_tokens to 16,000. Errors are free. Credit never expires. No monthly fees apply.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

ติดตั้งแพ็กเกจ OpenAI ทางการ ตั้ง base_url ที่ endpoint ของเรา ใช้ model="uncensored". การสตรีมทำงานผ่าน SSE รองรับการใช้งานเครื่องมือ มีโหมด JSON การปรับอุณหภูมิควบคุมความสุ่ม Top_p ควบคุมการสุ่มนิวเคลียส ลำดับหยุดหยุดการสร้างเมล็ดพันธุ์รับประกันความสามารถในการทำซ้ำ การปรับโทษการปรากฏตัวและความถี่ลดการทำซ้ำ ข้อผิดพลาดไม่ใช้เครดิต

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

กำหนดค่าไคลเอนต์ Node.js ตั้งค่า URL พื้นฐานให้ถูกต้อง ใช้ uncensored model ID Stream responses ได้ง่าย ส่ง tools สำหรับ function calling บังคับใช้โหมด output JSON ปรับ temperature และ top_p ตั้งค่า stop sequences แก้ไข seeds เพื่อความสอดคล้อง ใช้ตัวแก้ไขค่าปรับโทษ ข้อผิดพลาดไม่มีค่าใช้จ่าย

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีมและ SSE

ตั้งค่า stream: true ในคำขอของคุณ รับ Server-Sent Events (SSE) แยกวิเคราะห์ท่อนตามลำดับ จำนวนโทเค็นปรากฏในท่อนสุดท้าย วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รับรู้อย่างมาก อนุญาตการแสดงข้อความที่สร้างแบบเรียลไทม์ การจัดการบัฟเฟอร์เป็นความรับผิดชอบของคุณ ข้อผิดพลาดอาจยังคงเกิดขึ้นระหว่างสตรีม จัดการการตัดการเชื่อมต่ออย่างสุภาพ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ขีดจำกัดและข้อผิดพลาด

หน้าต่างบริบทคือ 100,000 โทเค็น ผลลัพธ์สูงสุดคือ 16,000 โทเค็น ขีดจำกัดคือ 300 ร้องขอต่อนาที อนุญาตให้ร้องขอแบบคอนเคอร์เรนต์ได้ 8 ร้องขอต่อคีย์ ขนาด body สูงสุดคือ 8 MB ใช้ 401 สำหรับคีย์ไม่ถูกต้อง ใช้ 402 สำหรับเครดิตไม่เพียงพอ ใช้ 429 สำหรับขีดจำกัดอัตรา