Hướng dẫn nhanh cho quy trình Whisper

Yêu cầu tiên quyết

Trước khi bắt đầu, hãy đảm bảo bạn có một tài khoản hoạt động và khóa API. Đăng ký trên trang Lấy khóa API bằng cách chỉ sử dụng email và mật khẩu. Khóa sẽ xuất hiện ngay lập tức. Bạn nhận được $0.50 tín dụng dùng thử miễn phí có hiệu lực trong 7 ngày, không cần thẻ tín dụng. Để sử dụng cho sản phẩm, hãy nạp tiền từ $10 thông qua tiền điện tử (USDT hoặc USDC). Giá cả của chúng tôi rất đơn giản: $0.25 cho mỗi 1 triệu token đầu vào và $1.00 cho mỗi 1 triệu token đầu ra. Tín dụng không bao giờ hết hạn.

Base URL: https://api.whisperapis.com/v1. Endpoint này tương thích với bất kỳ client nào tương thích với OpenAI. Bạn chỉ cần cấu hình base URL và cung cấp khóa API của bạn trong tiêu đề xác thực. Không cần các SDK đặc biệt cho các yêu cầu HTTP cơ bản.

Khởi tạo Client

Hầu hết các nhà phát triển sẽ sử dụng SDK chính thức của OpenAI hoặc một thư viện tương thích. Khởi tạo client bằng cách trỏ nó vào base URL của chúng tôi. Điều này đảm bảo tất cả các yêu cầu được định tuyến đến mô hình không kiểm duyệt của chúng tôi thay vì máy chủ của OpenAI. ID mô hình luôn là uncensored.

Đảm bảo biến môi trường OPENAI_API_KEY của bạn được đặt thành khóa từ bảng điều khiển. Nếu bạn đang sử dụng một ngôn ngữ hoặc thư viện khác, hãy xác minh rằng nó hỗ trợ base URL tùy chỉnh. SDK xử lý việc tuần tự hóa JSON và tiêm tiêu đề cho bạn, giúp giảm mã boilerplate trong các tập lệnh pipeline của bạn.

Gửi Chat Completion

Gửi một yêu cầu chat completion tiêu chuẩn để tinh chỉnh đầu ra pipeline của bạn. Ví dụ: trích xuất JSON có cấu trúc từ bản ghi chuyển giọng nói thành văn bản hoặc tạo chú thích cho hình ảnh mà không có bộ lọc nội dung.

Endpoint là POST /v1/chat/completions. Bao gồm ID mô hình, mảng tin nhắn của bạn và tùy chọn prompt hệ thống để xác định hành vi không kiểm duyệt.

Copycurl https://api.whisperapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Mô hình của chúng tôi xử lý dữ liệu ngữ cảnh cao tốt, hỗ trợ tối đa 100.000 token tổng cộng. Điều này rất lý tưởng để xử lý các bản ghi dài hoặc mô tả hình ảnh chi tiết trong một lần chạy.

Phản hồi truyền phát

Đối với xử lý hậu kỳ theo thời gian thực hoặc các pipeline tương tác, hãy bật streaming. Đặt tham số stream thành true trong yêu cầu của bạn. API trả về các sự kiện SSE thay vì một đối tượng JSON đơn lẻ.

Phân tích cú pháp các trường delta khi chúng đến. Điều này giảm độ trễ cảm nhận được đối với các đầu ra lớn, chẳng hạn như tạo các tập lệnh chi tiết hoặc trích xuất các khối văn bản dài từ kết quả OCR nhiễu. Định dạng streaming tương thích với các trình xử lý streaming của SDK OpenAI tiêu chuẩn.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Đảm bảo client của bạn xử lý các phần dữ liệu nhỏ một cách chính xác. Tổng hợp các delta để tái tạo lại phản hồi văn bản đầy đủ khi luồng kết thúc với finish_reason là stop hoặc length.

Hỗ trợ gọi hàm

Mô hình không kiểm duyệt của chúng tôi hỗ trợ gọi hàm, cho phép bạn xác định các đầu ra có cấu trúc cho các pipeline của bạn. Xác định các công cụ của bạn trong mảng tools với các định nghĩa lược đồ JSON.

Mô hình trả về các lệnh gọi công cụ trong phản hồi, mà bạn có thể thực thi để cập nhật ngữ cảnh cuộc trò chuyện. Điều này rất hữu ích để trích xuất các điểm dữ liệu cụ thể từ văn bản không có cấu trúc, chẳng hạn như ngày tháng, tên hoặc tọa độ từ bản ghi giọng nói.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whisperapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Chuyển các lệnh gọi công cụ trở lại API trong các thông báo tiếp theo. Mô hình sẽ tinh chỉnh đầu ra của nó dựa trên kết quả. Điều này cho phép suy luận phức tạp nhiều bước mà không cần rời khỏi giao diện trò chuyện. Hãy đảm bảo lược đồ của bạn nghiêm ngặt để tránh các phản hồi JSON bị lỗi cú pháp.

Giới hạn, Lỗi và Ngữ cảnh

Theo dõi mức sử dụng của bạn để tránh gián đoạn. API áp dụng giới hạn 300 yêu cầu mỗi phút cho mỗi khóa. Nếu bạn vượt quá giới hạn này, bạn sẽ nhận được lỗi giới hạn tốc độ 429. Hãy triển khai cơ chế backoff theo cấp số nhân trong client của bạn.

Lỗi thường gặp:

• 401: Khóa API không hợp lệ hoặc đã hết hạn. Tạo lại khóa của bạn từ bảng điều khiển.
• 402: Không đủ tín dụng. Nạp tiền vào tài khoản của bạn để tiếp tục xử lý.
• 429: Vượt quá giới hạn tốc độ. Giảm tần suất yêu cầu hoặc nhóm các tác vụ nhỏ hơn.

Cửa sổ ngữ cảnh: Mô hình hỗ trợ 100.000 token cho prompt + completion. Nếu đầu vào của bạn vượt quá giới hạn này, hãy cắt bớt các tin nhắn cũ hoặc chia nhỏ dữ liệu. Thân yêu cầu được giới hạn ở 8 MB. Đảm bảo các tải trọng của bạn nằm trong các ràng buộc này để có hiệu suất đáng tin cậy.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whisperapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);