Qwen unrestricted: openai kompatibilis api gyors kezdés

Hitelesítés és base URL

A szakaszok első mondata megválaszolja a címükben szereplő kérdést. Az első lépés a kliens irányítása a hosztolt endpointunkra. Használd https://api.qwenunrestricted.com/v1 alap URL-ként. Add meg API kulcsodat a Authorization fejléc mint Bearer token. Ez működik bármely OpenAI-kompatibilis SDK-val.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Győződjön meg arról, hogy a kulcsa érvényes a kérések küldése előtt. A 401 hiba azt jelenti, hogy a kulcs érvénytelen vagy lejárt.

Egy chat befejezési kérés küldése

Küldj egy POST kérést a /v1/chat/completions a prompttal. A modell azonosítója uncensored. Ez a modell nem utasít el jogszerű felnőtt vagy vitatott témákat. Korlátlan kimeneteket biztosít az alap intelligencia romlása nélkül.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Állítsa be a modell nevét erre: uncensored. Az API elfogadja a standard paramétereket, mint például messages és max_tokens.

A hőmérséklet és a top_p konfigurálása

Beállítás temperature és top_p a véletlenszerűség vezérlését. Magasabb értékek növelik a kreativitást. Az alacsonyabb értékek meghatározottabbá teszik a kimeneteket. Ezek a paraméterek befolyásolják, hogyan választ tokeneket a modell generálás közben.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Beállítás temperature 0,7-re a kiegyensúlyozott eredményekhez. Használja top_p a jelölt tokenek valószínűségi tömegének korlátozására. Ez segít szabályozni a kimeneti sokszínűséget.

Streamelt válaszok kezelése (SSE)

Engedélyezze a streamelést úgy, hogy stream igazra. Az API Server-Sent Events (SSE) formátumban ad vissza. Minden chunk részleges token adatot tartalmaz. Gyűjtse össze ezeket a chunkokat a végső válasz felépítéséhez.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Elemzés az SSE-folyamból a tokenek valós idejű megjelenítéséhez. Az utolsó darab tartalmazza a teljes token-használatot. Ez lehetővé pontos költségnyomon követést kéremonként.

JSON mód érvényesítése strukturált kimenethez

Használat response_format beállítva {"type": "json_object"} a JSON kimenet kikényszerítésére. Ez biztosítja, hogy a modell érvényes JSON struktúrákat adjon vissza. Hasznos az adatok feldolgozásához vagy más rendszerekkel való integrációhoz.

Állítsa be a paramétert a kéréstörzsben. A modell szigorúan betartja a JSON formázási szabályokat. Ez csökkenti a feldolgozási hibákat a downstream alkalmazásokban.

Eszközhasználattal (function calling)

Határozza meg az eszközöket a kérés a tools paraméter. A modell ezeket a függvényeket hívhatja meg a prompt alapján. Használja a tool_choice a függvényhívás vezérléséhez.

Adja meg a függvénydefiníciókat a kérésben. Az API eszközhívási argumentumokat ad vissza. Elemezze ezeket az argumentumokat a függvények végrehajtásához. Ez lehetővé teszi a komplex ügynök munkafolyamatokat.

A tokenfelhasználás és a költségek megértése

A kontextusablak 100 000 token. A maximális kimenet 16 000 token kérésenként. Az árak $0.15 per 1M bemeneti token és $0.50 per 1M kimeneti token. A hibák ingyenesek.

Ellenőrizze a végleges SSE darabot a felhasználási adatokért. A token számok a tényleges feldolgozást tükrözik. Nincs előfizetési díj. Csak azt fizeti, amit használ.