heretic llmモデル向けAPIドキュメント

ベースURLと認証

使用 https://api.hereticllmmodels.com/v1 ベースURLとして使用します。APIキーを Authorization: Bearer <key> header. Googleまたはメールアドレスログインでキーを生成。トークンは使用したトークンごとに課金されます。

最初のリクエスト

以下にPOSTを送信します。 /v1/chat/completionsモデルを使用 uncensored. 設定 max_tokens 最大16,000。エラーは無料です。クレジットの有効期限はありません。月額料金は発生しません。

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

Python SDK

公式のOpenAIパッケージをインストールします。 base_url 当社のエンドポイントに。使用 model="uncensored"ストリーミングはSSE経由で動作します。ツール使用に対応しています。JSONモードも利用可能です。Temperatureはランダム性を調整します。Top_pは核サンプリングを制御します。Stopシーケンスは生成を停止します。Seedは再現性を保証します。PresenceとFrequencyのペナルティは反復を減らします。エラーはクレジットを消費しません。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Node.jsクライアントを設定します。ベースURLを正しく設定します。 uncensored モデルID。ストリーミング応答を簡単に実行します。関数呼び出しのためにツールを渡します。JSON出力モードを適用します。温度とtop_pを調整します。ストップシーケンスを設定します。一貫性のためにシードを固定します。ペナルティ係数を適用します。エラーは発生しません。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミングとSSE

設定 stream: true リクエストに指定します。Server-Sent Events (SSE)を受け取ります。チャンクを順次解析します。トークン数は最終チャンクに表示されます。この方法は知覚遅延を大幅に削減します。生成されたテキストのリアルタイム表示を可能にします。バッファ管理はお客様の責任です。ストリーミングの途中でエラーが発生する可能性があります。切断を適切に処理してください。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

制限とエラー

コンテキストウィンドウは100,000トークンです。最大出力は16,000トークンです。制限は1分あたり300リクエストです。キーあたり8つの同時リクエストを許可します。最大ボディサイズは8 MBです。無効なキーには401を、不足しているクレジットには402を、レートリミットには429を使用してください。