เอกสาร API: Chat Completions

URL ฐานและการตรวจสอบสิทธิ์

เริ่มต้นทุกคำขอโดยชี้ไปยัง URL พื้นฐานของเรา ใช้คีย์ API ของคุณในหัว Authorization สิ่งนี้ทำงานกับ SDK ที่เข้ากันได้กับ OpenAI ใดๆ

คำขอครั้งแรก

ส่ง chat completion แบบง่ายเพื่อทดสอบการเชื่อมต่อ เอนด์พอยต์นี้จัดการงานการสร้างข้อความทั้งหมด

ใช้ uncensored model ID มันตอบสนองต่อเนื้อหาผู้ใหญ่ที่ถูกต้องโดยไม่มีการปฏิเสธ

ตรวจสอบ response สำหรับ choices[0].message.content.

การผสานรวม SDK Python

ติดตั้งไลบรารีทางการ ตั้งค่า URL พื้นฐานไปยังเอนด์พอยต์ของเรา เริ่มต้นไคลเอนต์ด้วยคีย์ของคุณ ส่งข้อความเหมือนกับที่คุณทำกับ GPT-4

ไลบรารีจัดการการแปลงข้อมูล JSON อัตโนมัติ คุณจะได้รับออบเจกต์ที่มีโครงสร้าง

การใช้งาน Node SDK

เรียกใช้แพ็กเกจ กำหนดค่า base URL สร้างอินสแตนต์ ส่งอาร์เรย์ข้อความของคุณ รอการตอบกลับ

นักพัฒนา Node ได้รับโมเดลแบบไม่จำกัดเนื้อหาเดียวกัน เข้าถึงข้อความผ่านออบเจกต์การตอบกลับ

การตอบกลับแบบสตรีมมิ่ง

เปิดใช้งานสตรีมเพื่อลดความล่าช้า รับโทเค็นขณะที่กำลังถูกสร้างขึ้น ซึ่งช่วยลดเวลารอที่รู้สึกได้อย่างมีนัยสำคัญ

แยกวิเคราะห์ delta.content field in each chunk. Accumulate the text locally. Handle errors gracefully during the stream.

ขีดจำกัดและข้อผิดพลาด

อัตราจำกัดการเรียกใช้กำหนดอย่างเข้มงวด คุณได้รับ 300 คำขอต่อนาที สูงสุด 8 คำขอพร้อมกันต่อคีย์ body คำขอต้องไม่เกิน 8 MB

ระวังรหัส 401 สำหรับคีย์ที่ไม่ถูกต้อง 402 หมายถึงไม่มีเครดิต 429 บ่งชี้ถึงข้อจำกัดอัตราโทเค็นในบริบทมีทั้งหมด 100,000 โทเค็น ข้อผิดพลาดไม่ใช้เครดิต

cURL

Copycurl https://api.mistralgetapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send the confirmation email to the user"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralgetapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralgetapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)