Qwen unrestricted: hướng dẫn nhanh api tương thích openai

Xác thực và base URL

Bước đầu tiên là trỏ máy khách của bạn đến điểm cuối được lưu trữ của chúng tôi. Sử dụng https://api.qwenunrestricted.com/v1 làm URL cơ sở. Truyền khóa API của bạn trong Authorization header dưới dạng mã Bearer. Điều này hoạt động với bất kỳ SDK tương thích OpenAI nào.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Đảm bảo khóa của bạn hợp lệ trước khi gửi các yêu cầu. Lỗi 401 có nghĩa là khóa không hợp lệ hoặc đã hết hạn.

Gửi yêu cầu hoàn thành trò chuyện

Gửi yêu cầu POST đến /v1/chat/completions với lời nhắc của bạn. Định danh mô hình là uncensored. Mô hình này không từ chối nội dung người lớn hợp pháp hoặc các chủ đề gây tranh cãi. Nó cung cấp đầu ra không giới hạn mà không làm giảm trí thông minh cơ bản.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Đặt tên mô hình thành uncensored. API chấp nhận các tham số tiêu chuẩn như messages và max_tokens.

Cấu hình nhiệt độ và top_p

Điều chỉnh temperature và top_p để kiểm soát tính ngẫu nhiên. Giá trị cao hơn tăng cường sự sáng tạo. Giá trị thấp hơn làm cho đầu ra xác định hơn. Các tham số này ảnh hưởng đến cách mô hình chọn token trong quá trình tạo.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Đặt temperature đến 0.7 cho kết quả cân bằng. Sử dụng top_p để giới hạn khối xác suất của các token ứng viên. Điều này giúp kiểm soát mức độ đa dạng của đầu ra.

Xử lý phản hồi phát trực tiếp (SSE)

Bật phát trực tiếp bằng cách đặt stream true. API trả về các Sự kiện được gửi bởi máy chủ (SSE). Mỗi phần chứa dữ liệu token một phần. Thu thập các phần này để xây dựng phản hồi cuối cùng.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Phân tích luồng SSE để hiển thị token theo thời gian thực. Chunk cuối cùng bao gồm tổng số token đã sử dụng. Điều này cho phép theo dõi chi phí chính xác cho từng yêu cầu.

Đang thực thi chế độ JSON cho đầu ra có cấu trúc

Sử dụng response_format được đặt thành {"type": "json_object"} để bắt buộc đầu ra JSON. Điều này đảm bảo mô hình trả về các cấu trúc JSON hợp lệ. Hữu ích cho việc phân tích dữ liệu hoặc tích hợp với các hệ thống khác.

Đặt tham số trong thân yêu cầu của bạn. Mô hình sẽ tuân thủ nghiêm ngặt các quy tắc định dạng JSON. Điều này giảm lỗi phân tích cú pháp trong các ứng dụng phía sau.

Sử dụng gọi công cụ (function calling)

Định nghĩa các công cụ trong yêu cầu của bạn bằng cách sử dụng tools tham số. Mô hình có thể gọi các hàm này dựa trên lời nhắc. Sử dụng tool_choice để kiểm soát việc gọi hàm.

Chỉ định các định nghĩa hàm trong yêu cầu. API trả về các đối số gọi công cụ. Phân tích các đối số này để thực hiện các hàm. Điều này cho phép các quy trình tác nhân phức tạp.

Hiểu việc sử dụng token và chi phí

Cửa sổ ngữ cảnh là 100,000 token. Output tối đa là 16,000 token mỗi yêu cầu. Giá là $0.15 cho mỗi 1M input token và $0.50 cho mỗi 1M output token. Lỗi miễn phí.

Kiểm tra chunk SSE cuối cùng để biết chi tiết về việc sử dụng. Số lượng token phản ánh quá trình xử lý thực tế. Không áp dụng phí đăng ký. Bạn chỉ trả tiền cho những gì mình sử dụng.