Qwen unrestricted: început rapid API compatibil cu OpenAI

Autentificare și URL de bază

Primul pas este indicarea clientului către endpoint-ul nostru găzduit. Utilizați https://api.qwenunrestricted.com/v1 ca URL-ul tău de bază. Transmite-ți cheia API în Authorization header ca un token Bearer. Acest lucru funcționează cu orice SDK compatibil OpenAI.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Asigură-te că cheia este validă înainte de a trimite solicitări. O eroare 401 înseamnă că cheia este invalidă sau expirată.

Trimiterea unei cereri de completare de chat

Trimite o cerere POST la /v1/chat/completions cu promptul tău. ID-ul modelului este uncensored. Acest model nu refuză subiecte adulte legale sau controversate. Oferă ieșiri nelimitate fără a degrada inteligența de bază.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Stabilește numele modelului la uncensoredAPI acceptă parametri standard precum messages și max_tokens.

Configurarea temperaturii și top_p

Ajustați temperature și top_p pentru a controla aleatorietatea. Valorile mai mari cresc creativitatea. Valorile mai mici fac ieșirile mai deterministe. Acești parametri afectează modul în care modelul selectează tokenii în timpul generării.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Setează temperature că 0.7 pentru rezultate echilibrate. Utilizați top_p pentru a limita masa de probabilitate a tokenurilor candidate. Acest lucru ajută la controlul diversității ieșirii.

Gestionarea răspunsurilor de streaming (SSE)

Activați streaming-ul setând stream că true. API-ul returnează Server-Sent Events (SSE). Fiecare fragment conține date parțiale de token. Colectează aceste fragmente pentru a construi răspunsul final.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Analizați fluxul SSE pentru a afișa tokenii în timp real. Ultimul fragment include utilizarea totală a tokenilor. Acest lucru permite urmărirea precisă a costurilor per solicitare.

Activarea modului JSON pentru ieșiri structurate

Utilizare response_format setat la {"type": "json_object"} pentru a impune ieșirea în format JSON. Acest lucru asigură că modelul returnează structuri JSON valide. Utile pentru analizarea datelor sau integrarea cu alte sisteme.

Stabilește parametrul în corpul solicitării tale. Modelul va respecta strict regulile de formatare JSON. Acest lucru reduce erorile de analiză în aplicațiile downstream.

Utilizarea apelării de instrumente (function calling)

Definește instrumentele în cerere folosind tools parametru. Modelul poate apela aceste funcții pe baza promptului. Folosește tool_choice pentru a controla invocarea funcției.

Specifică definițiile funcțiilor în solicitare. API-ul returnează argumentele pentru apelul de instrument. Analizează aceste argumente pentru a executa funcțiile. Acest lucru permite fluxuri de lucru complexe ale agenților.

Înțelegerea utilizării și costurilor pe tokeni

Fereastra de context are 100.000 de tokeni. Output-ul maxim este de 16.000 de tokeni per solicitare. Prețul este de $0.15 per 1M tokeni de intrare și $0.50 per 1M tokeni de output. Erorile sunt gratuite.

Verificați ultimul chunk SSE pentru detalii de utilizare. Numerele de tokeni reflectă procesarea reală. Nu se aplică taxe de abonament. Plătiți doar pentru ceea ce utilizați.