Qwen unrestricted: เริ่มต้นใช้งาน API ที่เข้ากันได้กับ OpenAI

Authentication and base URL

ขั้นตอนแรกคือการชี้ไคลเอนต์ของคุณไปยังจุดสิ้นสุดที่โฮสต์ของเรา ใช้ https://api.qwenunrestricted.com/v1 เป็น URL พื้นฐาน ส่งคีย์ API ของคุณใน Authorization header เป็น Bearer token สิ่งนี้ใช้งานได้กับ SDK ที่เข้ากันได้กับ OpenAI ใดๆ

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

ตรวจสอบให้แน่ใจว่าคีย์ของคุณถูกต้องก่อนส่ง request ข้อผิดพลาด 401 หมายถึงคีย์ไม่ถูกต้องหรือหมดอายุ

การส่ง chat completion request

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อมพรอมต์ของคุณ รหัสโมเดลคือ uncensored. โมเดลนี้ไม่ปฏิเสธเนื้อหาผู้ใหญ่หรือหัวข้อที่ถกเถียงกันที่ถูกต้องกฎหมาย มันให้ผลลัพธ์แบบไร้ข้อจำกัดโดยไม่ลดทอนความฉลาดพื้นฐาน

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตั้งชื่อบอกโมเดลเป็น uncensored. API รับพารามิเตอร์มาตรฐานเช่น messages และ max_tokens.

กำลังกำหนดค่า temperature และ top_p

ปรับ temperature และ top_p เพื่อควบคุมความสุ่ม ค่าที่สูงขึ้นเพิ่มความสร้างสรรค์ ค่าที่ต่ำกว่าทำให้ผลลัพธ์มีความเป็นกำหนดได้มากกว่า พารามิเตอร์เหล่านี้ส่งผลต่อการเลือกโทเค็นของโมเดลระหว่างกระบวนการสร้าง

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ตั้งค่า temperature to 0.7 for balanced results. Use top_p เพื่อจำกัดมวลความน่าจะเป็นของโทเค็นตัวเลือก ช่วยควบคุมความหลากหลายของผลลัพธ์

การจัดการการตอบกลับแบบสตรีม (SSE)

เปิดใช้งานการสตรีมโดยตั้งค่า stream ตั้งค่าเป็น true API จะส่ง Server-Sent Events (SSE) แต่ละ chunk มีข้อมูล token บางส่วน รวบรวม chunk เหล่านี้เพื่อสร้างคำตอบสุดท้าย

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

แยกวิเคราะห์สตรีม SSE เพื่อแสดงผลโทเค็นแบบเรียลไทม์ ชิ้นสุดท้ายรวมการใช้งานโทเค็นทั้งหมด ช่วยให้คุณติดตามต้นทุนต่อคำขอได้อย่างแม่นยำ

กำลังบังคับใช้โหมด JSON สำหรับเอาต์พุตที่มีโครงสร้าง

ใช้ response_format ตั้งค่าเป็น {"type": "json_object"} เพื่อบังคับใช้เอาต์พุต JSON สิ่งนี้ทำให้แน่ใจว่าโมเดลจะส่งกลับโครงสร้าง JSON ที่ถูกต้อง มีประโยชน์สำหรับการแยกวิเคราะห์ข้อมูลหรือการผสานรวมกับระบบอื่น

ตั้งค่าพารามิเตอร์ใน body ของคำขอ โมเดลจะปฏิบัติตามกฎการจัดรูปแบบ JSON อย่างเคร่งครัด สิ่งนี้ลดข้อผิดพลาดในการแยกวิเคราะห์ในแอปพลิเคชัน downstream

การใช้การเรียกใช้เครื่องมือ (function calling)

กำหนดเครื่องมือในคำขอโดยใช้ tools พารามิเตอร์ โมเดลสามารถเรียกใช้ฟังก์ชันเหล่านี้ได้ตามคำสั่ง ใช้ tool_choice เพื่อควบคุมการเรียกใช้ฟังก์ชัน

ระบุคำจำกัดความของฟังก์ชันในคำขอ API จะส่งคืนอาร์กิวเมนต์การเรียกใช้เครื่องมือ วิเคราะห์อาร์กิวเมนต์เหล่านี้เพื่อเรียกใช้ฟังก์ชัน สิ่งนี้เปิดใช้งานเวิร์กโฟลว์ของเอเจนต์ที่ซับซ้อน

การทำความเข้าใจการใช้งานและต้นทุนโทเคน

หน้าต่างบริบทมีขนาด 100,000 tokens ผลลัพธ์สูงสุดคือ 16,000 tokens ต่อคำขอ ราคาคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ข้อผิดพลาดไม่ต้องเสียเงิน

ตรวจสอบ chunk SSE สุดท้ายสำหรับรายละเอียดการใช้งาน จำนวน tokens สะท้อนถึงการประมวลผลจริง ไม่มีค่าธรรมเนียมสมาชิก จ่ายเฉพาะสิ่งที่ใช้