Qwen unrestricted: rychlý start OpenAI kompatibilního API

Ověření a základní URL

Prvním krokem je nasměrovat vašeho klienta na náš hostovaný koncový bod. Použijte https://api.qwenunrestricted.com/v1 jako vaši základní URL. Předajte svůj API klíč v Authorization hlavička jako Bearer token. To funguje s jakýmikoli SDK kompatibilními s OpenAI.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Ujistěte se, že je váš klíč platný před odesláním požadavků. Chyba 401 znamená, že klíč je neplatný nebo expirovaný.

Odesílání požadavku na dokončení chatu

Odeslat požadavek POST na /v1/chat/completions vaším podnětem. ID modelu je uncensored. Tento model nevyhazuje legální obsah pro dospělé nebo kontroverzní témata. Poskytuje neomezené výstupy bez degradace základní inteligence.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Nastavte název modelu na uncensored. API přijímá standardní parametry jako messages a max_tokens.

Konfigurace teploty a top_p

Upravit temperature a top_p pro ovládání náhodnosti. Vyšší hodnoty zvyšují kreativitu. Nižší hodnoty činí výstupy více deterministickými. Tyto parametry ovlivňují, jak model vybírá tokeny během generování.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Nastavit temperature na 0,7 pro vyvážené výsledky. Použijte top_p omezit hmotnost pravděpodobnosti kandidátních tokenů. To pomáhá kontrolovat rozmanitost výstupu.

Zvládání streamovaných odpovědí (SSE)

Povolte streamování nastavením stream na true. API vrací Server-Sent Events (SSE). Každý chunk obsahuje částečná data tokenů. Sbírejte tyto chunky pro sestavení konečné odpovědi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parsovejte SSE stream pro zobrazení tokenů v reálném čase. Konečná část obsahuje celkové využití tokenů. To umožňuje přesné sledování nákladů na jednotlivé požadavky.

Vynucování režimu JSON pro strukturovaný výstup

Použít response_format nastaveno na {"type": "json_object"} pro vynucení výstupu ve formátu JSON. To zajišťuje, že model vrací platné struktury JSON. Užitečné pro parsování dat nebo integraci s jinými systémy.

Nastavte parametr v těle požadavku. Model bude striktně dodržovat pravidla formátování JSON. To snižuje chyby parsování v aplikacích, které následně zpracovávají data.

Použití volání nástrojů (function calling)

Definujte nástroje v těle žádosti pomocí tools parametr. Model může volat tyto funkce na základě podnětu. Použijte tool_choice ovlivnit volání funkce.

Upřesněte definice funkcí v požadavku. API vrací argumenty volání nástroje. Tyto argumenty parsovejte pro provedení funkcí. To umožňuje složité pracovní postupy agentů.

Pochopení využití a nákladů na tokeny

Okno kontextu má 100 000 tokenů. Maximální výstup je 16 000 tokenů na požadavek. Ceny jsou $0.15 za 1M vstupních tokenů a $0.50 za 1M výstupních tokenů. Chyby jsou zdarma.

Zkontrolujte poslední chunk SSE pro detaily o využití. Počty tokenů odrážejí skutečné zpracování. Žádné předplatné poplatky se neuplatňují. Platíte pouze za to, co použijete.