Tài liệu API: Hoàn thành trò chuyện

Base URL và Xác thực

Bắt đầu mọi yêu cầu bằng cách trỏ đến URL cơ sở của chúng tôi. Sử dụng khóa API của bạn trong tiêu đề Authorization. Điều này hoạt động với bất kỳ SDK tương thích OpenAI nào.

Yêu cầu đầu tiên

Gửi một yêu cầu hoàn thành trò chuyện đơn giản để kiểm tra khả năng kết nối. Điểm cuối này xử lý tất cả các nhiệm vụ tạo văn bản.

Sử dụng uncensored model ID. Nó phản hồi nội dung người lớn hợp pháp mà không từ chối.

Kiểm tra phản hồi để choices[0].message.content.

Tích hợp SDK Python

Cài đặt thư viện chính thức. Đặt URL cơ sở thành điểm cuối của chúng tôi. Khởi tạo máy khách với khóa của bạn. Gửi tin nhắn giống như bạn sẽ làm với GPT-4.

Thư viện tự động xử lý tuần tự hóa JSON. Bạn nhận lại các đối tượng có cấu trúc.

Sử dụng SDK Node

Yêu cầu gói. Cấu hình base URL. Tạo một phiên bản. Truyền mảng tin nhắn của bạn. Chờ phản hồi.

Các nhà phát triển Node nhận được cùng mô hình không kiểm duyệt. Truy cập văn bản thông qua đối tượng phản hồi.

Phản hồi luồng

Bật streaming để giảm độ trễ. Nhận token khi chúng được tạo. Điều này giảm đáng kể thời gian chờ cảm nhận.

Phân tích delta.content field trong mỗi chunk. Tích lũy văn bản tại địa phương. Xử lý lỗi một cách khéo léo trong quá trình phát trực tiếp.

Giới hạn và Lỗi

Giới hạn tốc độ áp dụng nghiêm ngặt. Bạn có 300 yêu cầu mỗi phút. Tối đa 8 yêu cầu đồng bộ trên mỗi khóa. Thân yêu cầu phải dưới 8 MB.

Chú ý mã 401 với khóa không hợp lệ. 402 nghĩa là hết tiền. 429 báo giới hạn tốc độ. Cửa sổ ngữ cảnh tổng cộng là 100.000 token. Lỗi không tiêu tốn tiền.

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)