API-dokumentaatio heretic llm -malleille

Perus-URL ja todennus

Käyttö https://api.hereticllmmodels.com/v1 pohja-URL:ksi. Välitä API-avaimesi kenttään Authorization: Bearer <key> header. Luo avaimia Google- tai sähköpostikirjautumisen kautta. Tokenit laskutetaan käytetyn tokenin perusteella.

Ensimmäinen pyyntö

Lähetä POST osoitteeseen /v1/chat/completions. Käytä mallia uncensored. Aseta max_tokens arvoon 16 000. Virheet ovat ilmaisia. Krediitti ei vanhene. Kuukausimaksuja ei ole.

Copycurl https://api.hereticllmmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate the derivative of 3x squared plus 5x"}]
  }'

Python SDK

Asenna virallinen OpenAI-paketti. Aseta base_url päätepisteeseemme. Käytä model="uncensored". Streamaus toimii SSE:n kautta. Työkalujen käyttö on tuettu. JSON-tila on käytettävissä. Lämpötila säätää satunnaisuutta. Top_p ohittaa ydinnäytteenoton. Lopetussekvenssit keskeyttävät luonnin. Siemen varmistaa toistettavuuden. Läsnäolo- ja taajuusrankit vähentävät toistoa. Virheet eivät kuluta luottoa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllmmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Määritä Node.js-asiakas. Aseta base URL oikein. Käytä uncensored malli-ID. Streamaa vastauksia helposti. Välitä työkalut toimintokutsuja varten. Pakota JSON-tulostila. Säädä lämpötilaa ja top_p. Aseta stop-jaksotukset. Korjaa siemenet johdonmukaisuuden varmistamiseksi. Sovella rangaistusmodifikaattoreita. Virheet ovat ilmaisia.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllmmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamaus ja SSE

Aseta stream: true pyyntösi. Vastaanota Server-Sent Events (SSE) -viestejä. Jäsentele lohkot peräkkäin. Tokenimäärät ilmestyvät viimeisessä lohkossa. Tämä menetelmä vähentää koettua viiveellisyyttä merkittävästi. Se mahdollistaa tuotetun tekstin reaaliaikaisen näyttämisen. Puskurin hallinta on kuitenkin sinun vastuullasi. Virheitä voi silti tapahtua virran aikana. Käsittele katkokset joustavasti.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rajoitukset ja virheet

Kontekstiuikkuna on 100 000 tokenia. Maksimilähtö on 16 000 tokenia. Rajoitus on 300 pyyntöä minuutissa. Salli 8 samanaikaista pyyntöä avainta kohti. Maksimikehon koko on 8 Mt. Käytä 401 virheellisiä avaimia varten. Käytä 402 riittämättömän krediitin varten. Käytä 429 nopeusrajoituksille.