Документація API: Chat Completions

Базова URL-адреса та аутентифікація

Почніть кожен запит, вказавши базовий URL. Використовуйте свій API-ключ у заголовку Authorization. Це працює з будь-яким SDK, сумісним з OpenAI.

Перший запит

Надішліть простий запит на отримання відповіді чату, щоб протестувати з’єднання. Цей ендпоінт обробляє всі завдання з генерації тексту.

Використовуйте uncensored model ID. Він реагує на законний контент для дорослих без відмов.

Перевірте відповідь на choices[0].message.content.

Інтеграція SDK Python

Встановіть офіційну бібліотеку. Встановіть базовий URL на наш ендпоінт. Ініціалізуйте клієнта своїм ключем. Надсилайте повідомлення так само, як ви робили б із GPT-4.

Бібліотека автоматично обробляє серіалізацію JSON. Ви отримуєте структуровані об'єкти.

Використання Node SDK

Підключіть пакет. Налаштуйте базовий URL. Створіть екземпляр. Передайте свій масив повідомлень. Очікуйте відповідь.

Розробники Node отримують ту саму модель без цензури. Отримайте текст через об’єкт відповіді.

Потокові відповіді

Увімкніть потокову передачу для низької затримки. Отримуйте токени по мірі їх генерації. Це значно знижує сприйнятий час очікування.

Парсуйте delta.content field в кожному чанку. Акумулюйте текст локально. Обробляйте помилки коректно під час потокової передачі.

Ліміти та помилки

Ліміти частоти запитів діють суворо. Ви отримуєте 300 запитів на хвилину. Максимум 8 паралельних запитів на ключ. Тіло запиту має залишатися менше 8 МБ.

Звертайте увагу на код 401 для недійсних ключів. 402 означає відсутність коштів. 429 вказує на ліміти швидкості. Контекстне вікно становить 100 000 токенів загалом. Помилки не споживають кредит.

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)