Быстрый старт для конвейеров Whisper

Требования

Перед началом убедитесь, что у вас есть активная учетная запись и API-ключ. Зарегистрируйтесь на странице Получить API-ключ, указав только электронную почту и пароль. Ключ появляется сразу. Вы получаете пробный баланс на $0.50 сроком на 7 дней, кредитная карта не требуется. Для продакшена пополните баланс от $10 с помощью криптовалюты (USDT или USDC). Наше ценообразование простое: $0.25 за 1 млн входных токенов и $1.00 за 1 млн выходных токенов. Баланс не сгорает.

Базовый URL: https://api.whisperapis.com/v1. Этот эндпоинт работает с любым клиентом, совместимым с OpenAI. Вам нужно только настроить базовый URL и передать API-ключ в заголовке авторизации. Специальные SDK для базовых HTTP-запросов не требуются.

Инициализация клиента

Большинство разработчиков использует официальный SDK OpenAI или совместимую библиотеку. Инициализируйте клиент, указав наш базовый URL. Это гарантирует, что все запросы будут направляться к нашей модели без цензуры, а не на серверы OpenAI. Идентификатор модели всегда uncensored.

Убедитесь, что переменная окружения OPENAI_API_KEY установлена в значение вашего ключа из панели управления. Если вы используете другой язык или библиотеку, убедитесь, что она поддерживает пользовательские базовые URL. SDK берет на себя сериализацию JSON и добавление заголовков, сокращая объем шаблонного кода в ваших скриптах конвейера.

Отправка завершения диалога

Отправьте стандартный запрос завершения диалога для улучшения результатов вашего конвейера. Например, извлеките структурированный JSON из транскрипций распознавания речи или создайте подписи к изображениям без фильтров контента.

Эндпоинт — POST /v1/chat/completions. Укажите идентификатор модели, массив сообщений и, при необходимости, системный промпт для определения поведения без цензуры.

Copycurl https://api.whisperapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Наша модель хорошо справляется с данными с большим контекстом, поддерживая до 100 000 токенов суммарно. Это идеально подходит для обработки длинных транскрипций или подробных описаний изображений за один проход.

Потоковые ответы

Для обработки в реальном времени или интерактивных конвейеров включите потоковую передачу. Установите параметр stream в значение true в вашем запросе. API возвращает события Server-Sent Events (SSE) вместо одного объекта JSON.

Парсите поля delta по мере их поступления. Это снижает воспринимаемую задержку для больших объемов вывода, таких как генерация подробных сценариев или извлечение длинных текстовых блоков из зашумленных результатов OCR. Формат потоковой передачи совместим со стандартными обработчиками потоковой передачи SDK OpenAI.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Убедитесь, что ваш клиент корректно обрабатывает частичные фрагменты. Агрегируйте дельты, чтобы восстановить полный текстовый ответ, когда поток завершится с finish_reason равным stop или length.

Поддержка вызова функций

Наша модель без цензуры поддерживает вызов функций, позволяя определять структурированные выводы для ваших конвейеров. Определите ваши инструменты в массиве tools с определениями схемы JSON.

Модель возвращает вызовы функций в ответе, которые вы можете выполнить для обновления контекста разговора. Это полезно для извлечения конкретных данных из неструктурированного текста, таких как даты, имена или координаты из транскрипций речи.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whisperapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Передавайте вызовы функций обратно в API в последующих сообщениях. Модель улучшит свой вывод на основе результатов. Это позволяет выполнять сложные многошаговые рассуждения, не выходя из интерфейса чата. Убедитесь, что ваша схема строгая, чтобы избежать некорректных ответов JSON.

Лимиты, ошибки и контекст

Отслеживайте использование, чтобы избежать прерываний. API устанавливает лимит в 300 запросов в минуту на ключ. Если вы превысите этот лимит, вы получите ошибку лимита запросов 429. Реализуйте экспоненциальное замедление в вашем клиенте.

Распространенные ошибки:

• 401: Неверный или истекший API-ключ. Сгенерируйте новый ключ в панели управления.
• 402: Недостаточно средств. Пополните счет, чтобы продолжить обработку.
• 429: Превышен лимит запросов. Уменьшите частоту запросов или объедините мелкие задачи.

Контекстное окно: Модель поддерживает 100 000 токенов для промпта и завершения. Если ваш ввод превышает этот лимит, удалите старые сообщения или разделите данные. Тела запросов ограничены 8 МБ. Убедитесь, что ваши полезные нагрузки соответствуют этим ограничениям для надежной работы.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whisperapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);