API-dokumentaatio: Chat-kompletionit

Perus-URL ja todennus

Aloita jokainen pyyntö osoittamalla se base URL:iimme. Käytä API-avaimeasi Authorization-headerissa. Tämä toimii minkä tahansa OpenAI-yhteensopivan SDK:n kanssa.

Ensimmäinen pyyntö

Lähetä yksinkertainen chat-completion yhteensopivuuden testaamiseksi. Tämä päätepiste käsittelee kaikki tekstin generaatiotehtävät.

Käytä uncensored malli-ID. Se vastaa lailliseen aikuis sisältöön ilman kieltäytymistä.

Tarkista vastauksesta choices[0].message.content.

Python SDK -integraatio

Asenna virallinen kirjasto. Aseta base URL pääteemme osoitteeksi. Alusta asiakasohjelmisto avaimellasi. Lähetä viestejä samalla tavalla kuin GPT-4:n kanssa.

Kirjasto hoitaa JSON-serialisoinnin automaattisesti. Saat takaisin strukturoituja objekteja.

Node SDK -käyttö

Vaadi paketti. Määritä base URL. Luo instanssi. Syötä viestitaulukkosi. Odota vastausta.

Node-kehittäjät saavat saman rajoittamattoman mallin. Pääset tekstiin vastausobjektin kautta.

Streamausvastaukset

Ota suoratoisto käyttöön matalan viiveen saavuttamiseksi. Vastaanota tokenit niiden generoitumisen aikana. Tämä vähentää huomattavasti koettua odotusaikaa.

Jäsennä delta.content kenttä jokaisessa lohkossa. Kertytä teksti paikallisesti. Käsittele virheet joustavasti virran aikana.

Rajoitukset ja virheet

Nopeusrajoitukset ovat tiukkoja. Saat 300 pyyntöä minuutissa. Max 8 samanaikaista pyyntöä avainta kohden. Pyyntöruumiin tulee pysyä alle 8 MB.

Huomioi 401 virhe virheellisillä avaimilla. 402 tarkoittaa, että rahaa ei ole. 429 osoittaa nopeusrajoituksia. Kontekstiikkuna on yhteensä 100 000 tokenia. Virheet eivät kuluta krediittejä.

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)