Dokumentace k API: Dokončování chatu

Základní URL a ověření

Začněte každý požadavek nastavením základní URL. Použijte svůj API klíč v hlavičce Authorization. To funguje s jakýmkoli SDK kompatibilním s OpenAI.

První požadavek

Pošlete jednoduché dokončení chatu pro otestování připojení. Tento koncový bod zpracovává všechny úkoly generování textu.

Použijte uncensored ID modelu. Reaguje na zákonný obsah pro dospělé bez odmítání.

Zkontrolujte odpověď na choices[0].message.content.

Integrace Python SDK

Nainstalujte oficiální knihovnu. Nastavte základní URL na náš endpoint. Inicializujte klienta svým klíčem. Posílejte zprávy stejně jako u GPT-4.

Knihovna automaticky zvládá serializaci JSON. Dostanete zpět strukturované objekty.

Využití SDK pro Node

Vyžadujte balíček. Nakonfigurujte base URL. Vytvořte instanci. Předáte svůj pole zpráv. Počkejte na odpověď.

Vývojáři Node získají stejný model bez omezení. Text získáte prostřednictvím objektu odpovědi.

Streamované odpovědi

Povolte streamování pro nízkou latenci. Prijímejte tokeny, jak jsou generovány. To výrazně snižuje vnímanou dobu čekání.

Parsovejte delta.content pole v každém chunku. Akumulujte text lokálně. Zpracovávejte chyby slušně během streamu.

Limity a chyby

Limitu rychlosti platí přísně. Máte 300 požadavků za minutu. Max 8 souběžných požadavků na klíč. Tělo požadavku musí zůstat pod 8 MB.

Sledujte chybu 401 pro neplatné klíče. 402 znamená nedostatek kreditu. 429 označuje omezení rychlosti. Kontextové okno má celkem 100 000 tokenů. Chyby nespotřebovávají kredit.

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)