Часто задаваемые вопросы по API-прокси: от получения ключа до диагностики ошибок

Начало работы

Как получить первый ключ?

Перейдите на страницу получения ключа, зарегистрируйтесь по email и паролю. Ключ отобразится сразу. Данные карты не нужны. Скопируйте ключ в переменную окружения.

Сколько ключей может быть на аккаунт?

Один ключ на аккаунт. При замене старый ключ мгновенно становится недействительным, и сервисы начнут получать 401. Подготовьте процесс обновления ключа перед сменой.

Какой адрес интерфейса и имя модели?

Адрес: https://api.llmzhongzhuan.com/v1，对话请求发往 /v1/chat/completions. Список моделей: GET /v1/models. Имя модели: uncensored.

Как изменить существующий код OpenAI?

Измените base_url и API-ключ, замените поле model на uncensored. Формат запросов и ответов сохраняется. См. Конфигурация фреймворков.

Баланс и тарификация

Сколько пробного баланса и как он начисляется?

Новым аккаунтам начисляется 0.50 USD на 7 дней. При цене 0.25 USD за миллион входных токенов и 1.00 USD за выходные, при 800 входных и 400 выходных токенов запрос стоит ~0.0006 USD. Баланса хватит на 800+ запросов. Это оценка; реальный лимит зависит от длины промпта.

Истекает ли баланс после пополнения?

Нет. Предоплаченный баланс не имеет срока действия. Истекает только пробный баланс через 7 дней.

Как узнать стоимость запроса?

В ответе есть usage (количество токенов). Для потоковых запросов usage приходит в последнем чанке. Умножьте токены на тариф. См. Практика стабильности.

Где посмотреть полную цену?

Цены указаны на странице тарифов. Там указаны тарифы на вход и выход, скрытых платежей нет.

Ошибки и лимиты

Что означает код 402?

Код no_credit означает исчерпание баланса или истечение пробного периода. Решение: пополните предоплаченный баланс. Не повторяйте запрос.

Как обработать 429?

Лимит — 300 запросов в минуту на ключ. При превышении возвращается 429. Уменьшите скорость отправки и используйте повторные запросы с экспоненциальной задержкой. Для пакетной обработки используйте лимит параллельных запросов и ограничитель; пример в статье о стабильности.

Является ли 503 upstream_busy сбоем?

Это временная перегрузка. Повторите запрос через несколько секунд. Рекомендуется экспоненциальное отступление с ограничением попыток.

Что такое 403 content_blocked?

Запрос заблокирован. Сексуальный контент с участием несовершеннолетних (даже вымышленный) возвращает 403. Не повторяйте запрос, проверьте его.

Границы возможностей

Какова длина контекста и макс. длина вывода?

Контекстное окно — 100,000 токенов. Сумма ввода и вывода не должна превышать лимит. max_tokens по умолчанию 2048, максимум 32,000. При превышении лимита (ввод + max_tokens) возвращается 400. Оставляйте место под ввод при генерации длинных текстов.

Поддерживается ли потоковая передача и вызов функций?

Да. Установите stream: true для SSE. Вызов функций использует формат OpenAI tools. Параметры temperature, top_p, stop передаются.

Поддерживаются ли векторы, изображения или аудио?

Нет. Только текстовые диалоги. Нет векторов, изображений, аудио, видео и дообучения. Только одна модель.

Есть ли ограничения на размер тела запроса?

Да, до 8 МБ. При использовании длинных документов учитывайте не только токены, но и размер в байтах.

Запуск и эксплуатация

Что нужно сделать перед запуском в продакшн?

Проверьте список моделей через /v1/models, запустите тесты с длинным вводом, потоковой передачей и ошибками. Настройте ветвления для 402, 429, 503 и сохраняйте usage. Установите линию напоминания по балансу, чтобы не остаться без средств в пик. Включите проверки в релиз-процесс.

Что делать, если все запросы на продакшене начали возвращать 401?

Убедитесь, что API-ключ не был пересоздан в панели: старый сразу становится недействительным. Проверьте, не потерялись ли переменные окружения при последнем релизе и нет ли в ключе пробелов или переносов. Храните ключ только в одном месте.

Что нужно учитывать, если несколько сервисов используют один ключ?

Лимит запросов считается по API-ключу: суммарно не более 300 запросов в минуту. Если пакетная задача исчерпает квоту, онлайн-сервисы получат 429. Ограничьте пакетные задачи, приоритизируйте онлайн-запросы и запускайте пакетные задачи ночью в нерабочее время.

Как избежать скрытого превышения бюджета?

Стоимость выходных токенов в 4 раза выше. Приоритетно контролируйте max_tokens и длину промпта. Собирайте статистику по функциональным модулям: если среднее число выводов резко выросло, проверьте изменения в промптах. Предоплаченный баланс останавливает работу при исчерпании, избегая неожиданных счетов.

Содержание и конфиденциальность

Какой контент разрешен?

Взрослый контент, художественная литература и спорные темы не блокируются напрямую. Сервис для пользователей 18+. Сексуальный контент с участием несовершеннолетних всегда блокируется. Подробнее: uncensored.chat.

Будет ли мой промпт использоваться для обучения?

Нет, промпты не используются для обучения. В остальном мы не приводим подробностей о хранении или журналах; пожалуйста, обратитесь к документации.

Чем этот сервис отличается от агрегаторов (прокси)?

У нас одна модель, нет необходимости отображать множество имен моделей. Список можно проверить через /v1/models. О принципах и рисках читайте uncensored.chat.