Qwen unrestricted: permulaan pantas api serasi openai

Pengesahan dan url asas

Langkah pertama ialah mengarahkan klien anda ke hujung sambungan yang dihoskan kami. Gunakan https://api.qwenunrestricted.com/v1 sebagai URL asas anda. Hantar kunci API anda dalam Authorization pencap sebagai token Bearer. Ini berfungsi dengan mana-mana SDK serasi OpenAI.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Pastu kunci anda sah sebelum menghantar permintaan. Ralat 401 bermakna kunci tidak sah atau telah luput.

Menghantar permintaan penyiapan sembang

Hantar permintaan POST ke /v1/chat/completions dengan prompt anda. ID model adalah uncensored. Model ini tidak menolak topik dewasa atau kontroversi yang sah. Ia memberikan output tanpa sekatan tanpa merosakkan kecerdasan asas.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tetapkan nama model kepada uncensored. API menerima parameter standard seperti messages dan max_tokens.

Mengkonfigurasi suhu dan top_p

Laraskan temperature dan top_p untuk mengawal rawakan. Nilai yang lebih tinggi meningkatkan kreativiti. Nilai yang lebih rendah menjadikan output lebih deterministik. Parameter ini mempengaruhi bagaimana model memilih token semasa penjanaan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tetapkan temperature to 0.7 for balanced results. Use top_p untuk membatasi jisim kebarangkalian token calon. Ini membantu mengawal kepelbagaian output.

Mengendalikan respons aliran (SSE)

Aktifkan aliran dengan menetapkan stream ke benar. API mengembalikan Acara Dihantar Server (SSE). Setiap bahagian mengandungi data token separa. Kumpulkan bahagian ini untuk membina respons akhir.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Uraikan aliran SSE untuk memaparkan token secara masa nyata. Chunk akhir termasuk penggunaan token jumlah. Ini membolehkan penjejakan kos yang tepat bagi setiap permintaan.

Memaksakan mod JSON untuk output berstruktur

Gunakan response_format tetapkan kepada {"type": "json_object"} untuk memaksakan output JSON. Ini memastikan model mengembalikan struktur JSON yang sah. Berguna untuk menguraikan data atau berintegrasi dengan sistem lain.

Tetapkan parameter dalam badan permintaan anda. Model akan mematuhi peraturan pemformatan JSON dengan ketat. Ini mengurangkan ralat penguraian dalam aplikasi downstream.

Menggunakan pemanggilan alat (pemanggilan fungsi)

Takrifkan alat dalam permintaan anda menggunakan tools parameter. Model boleh memanggil fungsi ini berdasarkan prompt. Gunakan tool_choice untuk mengawal pemanggilan fungsi.

Nyatakan definisi fungsi dalam permintaan. API mengembalikan argumen panggilan alat. Huraikan argumen ini untuk melaksanakan fungsi. Ini membolehkan aliran kerja agen kompleks.

Memahami penggunaan dan kos token

Jendela konteks ialah 100,000 token. Output maksimum ialah 16,000 token setiap permintaan. Harga ialah $0.15 setiap 1M token input dan $0.50 setiap 1M token output. Ralat adalah percuma.

Semak chunk SSE akhir untuk butiran penggunaan. Bilangan token mencerminkan pemprosesan sebenar. Tiada yuran langganan dikenakan. Bayar hanya untuk apa yang anda gunakan.