Документация API: Chat Completions

Базовый URL и аутентификация

Начните каждый запрос, указав базовый URL. Используйте ваш API-ключ в заголовке Authorization. Это работает с любым SDK, совместимым с OpenAI.

Первый запрос

Отправьте простой запрос на завершение чата, чтобы проверить подключение. Этот эндпоинт обрабатывает все задачи генерации текста.

Используйте uncensored идентификатор модели. Он реагирует на законный контент для взрослых без отказов.

Проверьте ответ на choices[0].message.content.

Интеграция Python SDK

Установите официальную библиотеку. Установите базовый URL на наш эндпоинт. Инициализируйте клиента с вашим ключом. Отправляйте сообщения так же, как вы делали бы это с GPT-4.

Библиотека автоматически выполняет сериализацию JSON. Вы получаете структурированные объекты.

Использование Node SDK

Подключите пакет. Настройте базовый URL. Создайте экземпляр. Передайте массив сообщений. Дождитесь ответа.

Разработчики на Node получают ту же модель без ограничений. Доступ к тексту осуществляется через объект ответа.

Потоковые ответы

Включите потоковую передачу для низкой задержки. Получайте токены по мере их генерации. Это значительно снижает воспринимаемое время ожидания.

Анализируйте delta.content field в каждом чанке. Накапливайте текст локально. Обрабатывайте ошибки корректно во время потока.

Лимиты и ошибки

Лимиты применяются строго. Вы получаете 300 запросов в минуту. Максимум 8 параллельных запросов на ключ. Тело запроса должно оставаться в пределах 8 МБ.

Обратите внимание на код 401 для невалидных ключей. 402 означает отсутствие средств. 429 указывает на ограничение частоты запросов. Контекстное окно составляет 100,000 токенов суммарно. Ошибки не списывают кредиты.

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)