Qwen unrestricted: γρήγορη έναρξη με συμβατό api openai
Εισάγετε το qwen unrestricted API στο υπάρχον σύστημά σας αλλάζοντας το base URL και το κλειδί. Αυτός ο οδηγός καλύπτει την πιστοποίηση, το streaming και τη δομημένη έξοδο για το μοντέλο uncensored LLM.
Πιστοποίηση και base URL
Το πρώτο βήμα είναι να κατευθύνετε το client σας στο hosted endpoint μας. Χρησιμοποιήστε https://api.qwenunrestricted.com/v1 ως τη βάση URL. Περνάτε το κλειδί API σας στο Authorization header ως Bearer token. Αυτό λειτουργεί με οποιοδήποτε OpenAI-compatible SDK.
curl https://api.qwenunrestricted.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
}'Βεβαιωθείτε ότι το key σας είναι έγκυρο πριν στείλετε αιτήσεις. Ένα σφάλμα 401 σημαίνει ότι το key είναι άκυρο ή έχει λήξει.
Αποστολή αιτήματος ολοκλήρωσης συνομιλίας
Στείλτε ένα POST request στο /v1/chat/completions με το prompt σας. Το ID του μοντέλου είναι uncensored. Αυτό το μοντέλο δεν απορρίπτει νόμιμο περιεχόμενο για ενήλικες ή αμφιλεγόμενα θέματα. Παρέχει ανεπιφύλακτες εξόδους χωρίς υποβάθμιση της βασικής νοημοσύνης.
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Ορίστε το όνομα του μοντέλου σε uncensored. Το API δέχεται τυπικές παραμέτρους όπως messages και max_tokens.
Ρύθμιση temperature και top_p
Ρύθμιση temperature και top_p για τον έλεγχο τυχαίοτητας. Οι υψηλότερες τιμές αυξάνουν τη δημιουργικότητα. Οι χαμηλότερες τιμές κάνουν τις εξόδους πιο ντετερμινιστικές. Αυτές οι παράμετροι επηρεάζουν τον τρόπο με τον οποίο το μοντέλο επιλέγει tokens κατά την παραγωγή.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ορίστε temperature σε 0.7 για ισορροπημένα αποτελέσματα. Χρησιμοποιήστε top_p για να περιορίσετε τη μάζα πιθανότητας των υποψήφιων tokens. Αυτό βοηθά στον έλεγχο της ποικιλότητας εξόδου.
Διαχείριση streaming αποκρίσεων (SSE)
Ενεργοποιήστε streaming ρυθμίζοντας stream σε true. Το API επιστρέφει Server-Sent Events (SSE). Κάθε chunk περιέχει μερικά δεδομένα tokens. Συλλέξτε αυτά τα chunks για να χτίσετε την τελική απάντηση.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Επεξεργαστείτε τη ροή SSE για να εμφανίσετε tokens σε πραγματικό χρόνο. Το τελικό κομμάτι περιλαμβάνει τη συνολική χρήση tokens. Αυτό επιτρέπει την ακριβή παρακολούθηση κόστους ανά αίτημα.
Επιβολή λειτουργίας JSON για δομημένη έξοδο
Χρήση response_format ορισμένο σε {"type": "json_object"} για να επιβάλετε JSON output. Αυτό εξασφαλίζει ότι το μοντέλο επιστρέφει έγκυρες δομές JSON. Χρήσιμο για parsing δεδομένων ή ενσωμάτωση με άλλα συστήματα.
Ορίστε την παράμετρο στο σώμα του αιτήματός σας. Το μοντέλο θα συμμορφωθεί αυστηρά με τους κανόνες μορφοποίησης JSON. Αυτό μειώνει τα σφάλματα ανάλυσης σε εφαρμογές downstream.
Χρήση κλήσης εργαλείων (function calling)
Ορίστε εργαλεία στο αίτημά σας χρησιμοποιώντας το tools parameter. Το μοντέλο μπορεί να καλέσει αυτές τις συναρτήσεις βάσει της εντολής. Χρησιμοποιήστε tool_choice για τον έλεγχο της κλήσης συνάρτησης.
Προσδιορίστε ορισμούς συναρτήσεων στην αίτηση. Η API επιστρέφει ορίσματα κλήσης εργαλείου. Ερμηνεύστε αυτά τα ορίσματα για να εκτελέσετε συναρτήσεις. Αυτό επιτρέπει σύνθετες ροές εργασιών πράκτορα.
Κατανόηση της χρήσης και των κόστων tokens
Το παράθυρο συμφραζομένων είναι 100.000 tokens. Μέγιστη έξοδος 16.000 tokens ανά αίτημα. Η τιμολόγηση είναι $0.15 ανά 1M input tokens και $0.50 ανά 1M output tokens. Τα σφάλματα είναι δωρεάν.
Ελέγξτε το τελικό chunk SSE για λεπτομέρειες χρήσης. Οι αριθμοί tokens αντανακλούν την πραγματική επεξεργασία. Δεν ισχύουν χρεώσεις συνδρομής. Πληρώστε μόνο για αυτό που χρησιμοποιείτε.
Frequently asked questions
Τι είναι το Qwen unrestricted;
Είναι ένα μοντέλο ανοιχτού βάρους με τα guardrails αφαιρέσει από τα βάρη. Παρέχει μη περιορισμένες εξόδους χωρίς να υποβαθμίζει τη βασική νοημοσύνη. Δεν είναι GPT, Claude ή Llama.
Πώς θα αποκτήσω κλειδί API;
Εγγραφείτε με Google ή email. Το κλειδί εμφανίζεται αμέσως. Δεν απαιτείται αριθμός τηλεφώνου. Ένα ενεργό κλειδί ανά λογαριασμό.
Ποιο είναι το μέγεθος του παραθύρου συνάφειας;
Το παράθυρο κειμένου είναι 100.000 tokens. Αυτό περιλαμβάνει την εντολή και την απάντηση. Η μέγιστη έξοδος είναι 16.000 tokens. Χρησιμοποιήστε το για μακροσκελή έγγραφα.
Ασφαλίστε το κλειδί API σας
Εγγραφείτε, αποκτήστε το κλειδί σας, ενημερώστε τη βάση URL. Αυτή είναι όλη η διαμόρφωση.
