Як замінити ключ API Claude на наш
Заміна ключа Claude API на ключ для нецензурованої, OpenAI-сумісної кінцевої точки займає близько десяти хвилин, якщо код вже використовує формат завершення чату. Цей посібник розглядає новий ключ, базовий URL, тестовий запит, потокову передачу, інструменти, витрати та помилки, які ви побачите під час переходу.
Підсумок
- Для переходу потрібен новий ключ та нова базова URL-адреса; формат запиту залишається незмінним.
- Запустіть один тестовий запит на id моделі uncensored, перш ніж перенаправляти виробничий трафік.
- Витрати становлять $0.15 за 1M вхідних токенів та $0.50 за 1M вихідних токенів, що нараховується з передоплаченого кредиту.
- Зберігайте старий ключ у конфігурації, доки новий не запрацює чисто кілька днів.
Чому розробники перемикають свій ключ на endpoint без фільтрів
Деякі законні робочі навантаження стикаються з відмовами на стандартному помічнику, наприклад, доросла художня література, прямі медичні запитання або дослідження в галузі безпеки. uncensored кінцева точка відповідає на ці запити напряму, і єдиним суворим обмеженням є сексуальний контент із залученням неповнолітніх.
Визначте заздалегідь, які запити приймає ваш продукт, оскільки модель не прийматиме це рішення за вас.
Крок 1: Отримайте новий API-ключ без цензури
Зареєструйтеся через Google або вкажіть електронну пошту та пароль на сторінці отримання API-ключа. Ключ з’являється на екрані одразу. Акаунт починається з $0.50 пробного кредиту, дійсного протягом 7 днів, і для початку не потрібна картка.
- Збережіть ключ у змінній середовища, ніколи не в коді клієнта.
- Обертайте ключ у будь-який час; старий перестає працювати миттєво.
Крок 2: Оновіть базову URL-адресу в коді
Вкажіть базовий URL на https://mistralgetapikey.com/v1 і передайте новий ключ у заголовок Authorization як bearer token. Зберігайте базовий URL у конфігурації, щоб мати можливість змінювати його без розгортання.
Залиште решту клієнта без змін. Повідомлення, ролі та парсер відповідей залишаються тими самими.
Крок 3: Перевірте перемикання за допомогою тестового запиту
Надішліть один короткий запит з ідентифікатором моделі uncensored. Відповідь із блоком використання підтверджує, що ключ, базова URL-адреса та ідентифікатор моделі разом працюють.
Якщо виклик завершиться невдало, спочатку прочитайте код статусу. 401 означає, що ключ неправильний, а 402 означає, що кредити вичерпано.
Обробка потокових відповідей у вашому існуючому коді
Встановити stream: true якщо ваш продукт вже підтримує потокове передавання. Кожна подія, надіслана сервером (SSE), містить частину відповіді, а остання подія містить дані про використання, дозволяючи відстежувати витрати в реальному часі.
Протестуйте потік і на повільному з’єднанні, тому що при розриві потоку в інтерфейсі має з’явитися чітке повідомлення про помилку, а не напівнаписана відповідь.
Перевірка сумісності виклику функцій
Якщо ваш додаток використовує інструменти, визначте одну функцію з JSON-схемою та дозвольте моделі викликати її. Поверніть результат, а потім перевірте, чи правильно фінальна відповідь його використовує.
- Протестуйте інструмент із двома обов’язковими аргументами.
- Протестуйте два інструменти, викликані послідовно.
- Перевіряйте аргументи перед виконанням дій.
Моніторинг використання токенів та витрат
Зберігайте кількість вхідних та вихідних токенів з кожної відповіді разом із ідентифікатором запиту. Помножте їх на $0.15 та $0.50 за 1M токенів, щоб отримати вартість кожного виклику.
| Навантаження | Вхідні токени | Токени виводу | Вартість |
|---|---|---|---|
| Короткий хід чату | 1,000 | 400 | $0.0003 |
| Короткий виклад довгих документів | 80,000 | 2,000 | $0.0130 |
Вирішення поширених помилок підключення
Більшість проблем перемикання виникають з трьох причин: ключ із зайвими пробілами або символом нового рядка, базовий URL, який все ще вказує на старий сервіс, або відсутний /v1 в кінці URL.
Кожен ключ дозволяє 300 запитів на хвилину та 8 одночасних запитів. 429 означає уповільнитися, і повторна спроба зі сповільненням виправить ситуацію.
Остаточна перевірка та запуск
Запустіть обидва ендпоінти на одних і тих же промптах протягом кількох днів і порівняйте відповіді, затримку та вартість. Переміщуйте трафік кроками, спостерігайте за частотою помилок після кожного кроку та зберігайте старий ключ у конфігурації, доки новий не працюватиме чисто.
Коли числа відповідають вашим очікуванням, видаліть старий ключ із середовища та з чек-листу рецензування коду.
Найпоширеніші запитання
Чи буде працювати мій існуючий код після перемикання?
У більшості випадків так. Кінцева точка використовує формат chat completions, тому змінюються лише базова URL-адреса та ключ.
Який ідентифікатор моделі я повинен надіслати?
Надішліть uncensored. Це єдина модель на сервісі, тому ідентифікатор не змінюється.
Чи є безкоштовний спосіб протестувати?
Так. Новий акаунт отримує $0.50 пробного кредиту, дійсного протягом 7 днів, і картка не потрібна для початку.
Як додати кошти на баланс?
Оплачуйте USDT на TRC20 або USDC на Base, від $20. Бонусний кредит застосовується від $50, а кредит ніколи не згорає.
Отримайте свій API-ключ
Зареєструйтеся, візьміть ключ, оновіть базовий URL. Просто.