Qwen unrestricted: התחלה מהירה ל-API תואם OpenAI

כתובת הבסיס ואימות

השלב הראשון הוא להפנות את הלקוח שלך לקצה המאוחסן שלנו. השתמש https://api.qwenunrestricted.com/v1 ככתובת הבסיס שלך. העבר את מפתח ה-API שלך ב- Authorization כותרת כטוקן Bearer. זה עובד עם כל SDK תואם OpenAI.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

ודאו שהמפתח שלכם תקין לפני שליחת בקשות. שגיאת 401 משמעה שהמפתח לא תקין או פג תוקף.

שליחת בקשת השלמת צ'אט

שלחו בקשת POST ל /v1/chat/completions עם ההנחיה שלך. מזהה הדגם הוא uncensored. מודל זה אינו דוחה תוכן מבוגר חוקי או נושאים שנויים במחלוקת. הוא מספק פלט ללא הגבלות ללא ירידה באינטליגנציה הבסיסית.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

הגדר את שם המודל ל uncensored. ה-API מקבל פרמטרים סטנדרטיים כמו messages וגם max_tokens.

הגדרת טמפרטורה ו-top_p

התאם temperature וגם top_p לשליטה באקראיות. ערכים גבוהים יותר מגבירים יצירתיות. ערכים נמוכים יותר הופכים את הפלט לדטרמיניסטי יותר. פרמטרים אלו משפיעים על אופן בחירת הטוקנים על ידי המודל במהלך היצירה.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

הגדר temperature ל-0.7 לתוצאות מאוזנות. השתמש top_p לצמצם את מסת ההסתברות של טוקנים מועמדים. זה עוזר לשלוון בגיוון הפלט.

טיפול בתגובות זרם (SSE)

אפשרו זרימה על ידי הגדרת stream כדי לקבל ערך true. ה-API מחזיר אירועים שנשלחים מהשרת (SSE). כל חלק מכיל נתוני אסימונים חלקיים. אספו את החלקים האלה כדי לבנות את התגובה הסופית.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

נתח את זרם ה-SSE כדי להציג מילים בזמן אמת. הנתח הסופי כולל סך השימוש במילים. זה מאפשר מעקב מדויק אחר עלויות לכל בקשה.

אכיפת מצב JSON לפלט מבני

שימוש response_format מוגדר ל {"type": "json_object"} כדי לאכוף פלט JSON. זה מבטיח שהמודל יחזיר מבני JSON תקפים. שימושי לניתוח נתונים או לשילוב עם מערכות אחרות.

הגדר את הפרמטר בגוף הבקשה שלך. המודל יקפיד בקפידה על כללי הפורמט של JSON. זה מפחית שגיאות פיענוח באפליקציות downstream.

שימוש בקריאת כלים (קריאת פונקציות)

הגדירו כלים בבקשה באמצעות ה tools פרמטר. המודל יכול לקרוא לפונקציות אלו בהתבסס על הפלט. השתמשו tool_choice לשלוט בהזמנת פונקציה.

ציין הגדרות פונקציה בבקשה. ה-API מחזיר ארגומנטים של קריאת כלי. פרסר אלו כדי לבצע פונקציות. זה מאפשר זרימות עבודה של סוכנים מורכבות.

הבנת שימוש בטוקנים ועלויות

חלון ההקשר הוא 100,000 טוקנים. הפלט המקסימלי הוא 16,000 טוקנים לכל בקשה. המחיר הוא $0.15 לכל 1M טוקני קלט ו-$0.50 לכל 1M טוקני פלט. שגיאות הן בחינם.

בדוק את נתוני השימוש בחבילת ה-SSE הסופית. ספירת הטוקנים משקפת עיבוד בפועל. אין דמי מנוי. שלם רק עבור מה שאתה משתמש.