Dokumentacja API: Chat Completions

Bazowy URL i autoryzacja

Rozpocznij każde żądanie, wskazując na nasz bazowy URL. Użyj swojego klucza API w nagłówku Authorization. Działa to z dowolnym SDK kompatybilnym z OpenAI.

Pierwsze żądanie

Wyślij proste ukończenie czatu, aby przetestować łączność. Ten punkt końcowy obsługuje wszystkie zadania generowania tekstu.

Korzystaj z uncensored ID modelu. Reaguje na legalne treści dla dorosłych bez odmowy.

Sprawdź odpowiedź pod kątem choices[0].message.content.

Integracja SDK Python

Zainstaluj oficjalną bibliotekę. Ustaw adres URL bazowy na nasz punkt końcowy. Zainicjuj klienta swoim kluczem. Wysyłaj wiadomości tak, jakbyś robił to z GPT-4.

Biblioteka automatycznie obsługuje serializację JSON. Zwracane są obiekty strukturalne.

Użycie SDK Node

Zaimportuj pakiet. Skonfiguruj base URL. Utwórz instancję. Przekaż swoją tablicę wiadomości. Poczekaj na odpowiedź.

Deweloperzy Node otrzymują ten sam model bez ograniczeń. Dostęp do tekstu uzyskujesz przez obiekt odpowiedzi.

Odpowiedzi strumieniowe

Włącz strumieniowanie dla niskiego opóźnienia. Otrzymuj tokeny w miarę ich generowania. Znacząco redukuje to postrzeganie czasu oczekiwania.

Przetwarzaj delta.content pole w każdym fragmencie. Accumulate the text locally. Obsługuj błędy w sposób elegancki podczas strumieniowania.

Limity i błędy

Limity szybkości są ścisłe. Otrzymujesz 300 żądań na minutę. Maksymalnie 8 jednoczesnych żądań na klucz. Ciało żądania musi pozostać poniżej 8 MB.

Zwróć uwagę na kod 401 dla nieprawidłowych kluczy. 402 oznacza brak środków. 429 oznacza przekroczenie limitu. Okno kontekstowe wynosi łącznie 100 000 tokenów. Błędy nie pobierają kredytów.

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)