क्वीन अनरस्ट्रिक्टेड: ओपनएआई कम्पैटिबल एपीई क्विकस्टार्ट

प्रमाणीकरण और बेस URL

पहला कदम अपने क्लाइंट को हमारे होस्टेड एंडपॉइंट की ओर इशारा करना है। उपयोग करें https://api.qwenunrestricted.com/v1 अपने बेस URL के रूप में। अपनी API कुंजी Authorization हेडर को Bearer टोकन के रूप में सेट करें। यह किसी भी OpenAI-compatible SDK के साथ काम करता है।

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

सुनिश्चित करें कि आपकी कुंजी वैध है। 401 त्रुटि का अर्थ है कि कुंजी अमान्य या समाप्त हो गई है।

चैट कंप्लीशन रिक्वेस्ट भेजना

एक POST अनुरोध भेजें /v1/chat/completions अपने प्रॉम्प्ट के साथ। मॉडल ID है uncensored. यह मॉडल कानूनी वयस्क या विवादास्पद विषयों को रिफ्यूज नहीं करता है। यह मूल बुद्धिमत्ता में कमी लाए बिना असीमित आउटपुट प्रदान करता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

मॉडल नाम को uncensored. API मानक पैरामीटर जैसे स्वीकार करती है messages और max_tokens.

तापमान और top_p कॉन्फ़िगर करना

समायोजित करें temperature और top_p यादृच्छिकता को नियंत्रित करने के लिए। उच्च मान रचनात्मकता बढ़ाते हैं। निम्न मान आउटपुट को अधिक निर्धारक बनाते हैं। ये पैरामीटर प्रभाव डालते हैं कि मॉडल जनरेशन के दौरान टोकन कैसे चुनता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

सेट करें temperature संतुलित परिणामों के लिए 0.7 तक। उपयोग करें top_p उम्मीदवार टोकन के संभावना द्रव्यमान को सीमित करने के लिए। यह आउटपुट विविधता पर नियंत्रण करने में मदद करता है।

स्ट्रीमिंग रिस्पॉन्सेस (SSE) हैंडल करना

सेटिंग करके स्ट्रीमिंग सक्षम करें stream true पर सेट करें। API सर्वर-सेंट इवेंट्स (SSE) लौटाता है। प्रत्येक चंक आंशिक टोकन डेटा रखता है। अंतिम प्रतिक्रिया बनाने के लिए इन चंक को एकत्र करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

रियल-टाइम में टोकन प्रदर्शित करने के लिए SSE स्ट्रीम को पार्स करें। अंतिम चंक में कुल टोकन उपयोग शामिल है। यह प्रति अनुरोध सटीक लागत ट्रैकिंग की अनुमति देता है।

संरचित आउटपुट के लिए JSON मोड लागू करना

उपयोग करें response_format सेट {"type": "json_object"} JSON आउटपुट लागू करने के लिए। यह सुनिश्चित करता है कि मॉडल मान्य JSON संरचनाएं लौटाता है। डेटा पार्स करने या अन्य सिस्टम के साथ एकीकरण करने के लिए उपयोगी।

अपने रिक्वेस्ट बॉडी में पैरामीटर सेट करें। मॉडल JSON फॉर्मेटिंग नियमों का कड़ाई से पालन करेगा। इससे डाउनस्ट्रीम एप्लिकेशन में पार्सिंग त्रुटियां कम होती हैं।

टूल कॉलिंग (फ़ंक्शन कॉलिंग) का उपयोग करें

का उपयोग करके अपने रिक्वेस्ट में टूल्स परिभाषित करें। tools पैरामीटर। मॉडल प्रॉम्प्ट के आधार पर इन फ़ंक्शंस को कॉल कर सकता है। उपयोग करें tool_choice फंक्शन इन्वोकेशन को नियंत्रित करने के लिए।

अनुरोध में फ़ंक्शन परिभाषाएं निर्दिष्ट करें। API टूल कॉल तर्क लौटाता है। फ़ंक्शन निष्पादित करने के लिए इन तर्कों को पार्स करें। यह जटिल एजेंट वर्कफ़्लो सक्षम बनाता है।

टोकन उपयोग और लागतों को समझना

संदर्भ विंडो 100,000 टोकन की है। अधिकतम आउटपुट प्रति अनुरोध 16,000 टोकन है। मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। त्रुटियां मुफ्त हैं।

उपयोग विवरण के लिए अंतिम SSE चंक की जाँच करें। टोकन गणना वास्तविक प्रसंस्करण को दर्शाती है। कोई सब्सक्रिप्शन शुल्क लागू नहीं होता है। केवल उसी के लिए भुगतान करें जिसका आप उपयोग करते हैं।