Tài liệu API cho các mô hình llm dị giáo

Base URL và Xác thực

Sử dụng https://api.hereticllmmodels.com/v1 làm URL cơ sở. Truyền khóa API của bạn trong Authorization: Bearer <key> header. Tạo khóa qua đăng nhập Google hoặc email. Token được tính phí theo token đã sử dụng.

Yêu cầu đầu tiên

Gửi POST đến /v1/chat/completions. Sử dụng mô hình uncensored. Đặt max_tokens đến 16.000. Lỗi là miễn phí. Tín dụng không bao giờ hết hạn. Không có phí hàng tháng.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

SDK Python

Cài đặt gói OpenAI chính thức. Đặt base_url đến điểm cuối của chúng tôi. Sử dụng model="uncensored". Streaming hoạt động qua SSE. Hỗ trợ gọi công cụ. Chế độ JSON có sẵn. Temperature điều chỉnh độ ngẫu nhiên. Top_p kiểm soát lấy mẫu hạt nhân. Chuỗi dừng dừng quá trình sinh. Seed đảm bảo khả năng tái lập. Penalties về sự hiện diện và tần suất giảm lặp lại. Lỗi không tiêu thụ tín dụng.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK Node

Cấu hình client Node.js. Đặt URL cơ sở chính xác. Sử dụng uncensored model ID. Stream phản hồi dễ dàng. Truyền công cụ để gọi hàm. Buộc đầu ra JSON. Điều chỉnh nhiệt độ và top_p. Đặt các chuỗi dừng. Cố định seed để đảm bảo tính nhất quán. Áp dụng các bộ sửa phạt. Không có lỗi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming và SSE

Đặt stream: true trong yêu cầu của bạn. Nhận Server-Sent Events (SSE). Phân tích các chunk theo thứ tự. Đếm token xuất hiện trong chunk cuối cùng. Phương pháp này giúp giảm đáng kể độ trễ cảm nhận. Nó cho phép hiển thị theo thời gian thực văn bản được tạo ra. Quản lý bộ đệm vẫn là trách nhiệm của bạn. Lỗi vẫn có thể xảy ra giữa chừng. Hãy xử lý các lần ngắt kết nối một cách khéo léo.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn và Lỗi

Cửa sổ ngữ cảnh là 100.000 token. Đầu ra tối đa là 16.000 token. Giới hạn là 300 yêu cầu mỗi phút. Cho phép 8 yêu cầu đồng thời mỗi khóa. Kích thước thân tối đa là 8 MB. Sử dụng 401 cho khóa không hợp lệ. Sử dụng 402 cho tín dụng không đủ. Sử dụng 429 cho giới hạn tốc độ.