Qwen unrestricted: guida rapida api compatibile con openai

Autenticazione e URL di base

Il primo passaggio consiste nel puntare il tuo client al nostro endpoint ospitato. Utilizza https://api.qwenunrestricted.com/v1 come tuo URL di base. Passa la tua chiave API in Authorization header come token Bearer. Questo funziona con qualsiasi SDK compatibile con OpenAI.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Assicurati che la tua chiave sia valida prima di inviare richieste. Un errore 401 significa che la chiave non è valida o è scaduta.

Invio di una richiesta di completamento chat

Invia una richiesta POST a /v1/chat/completions con il tuo prompt. L'ID del modello è uncensored. Questo modello non rifiuta contenuti adulti leciti o argomenti controversi. Fornisce output senza restrizioni senza degradare l'intelligenza di base.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Imposta il nome del modello su uncensored. L'API accetta parametri standard come messages e max_tokens.

Configurazione di temperature e top_p

Regola temperature e top_p per controllare la casualità. Valori più alti aumentano la creatività. Valori più bassi rendono gli output più deterministici. Questi parametri influenzano come il modello seleziona i token durante la generazione.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Imposta temperature a 0.7 per risultati bilanciati. Utilizza top_p per limitare la massa di probabilità dei token candidati. Questo aiuta a controllare la diversità dell'output.

Gestione delle risposte in streaming (SSE)

Abilita lo streaming impostando stream a true. L'API restituisce Server-Sent Events (SSE). Ogni chunk contiene dati sui token parziali. Raccogli questi chunk per costruire la risposta finale.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Analizza il flusso SSE per visualizzare i token in tempo reale. L'ultimo chunk include l'utilizzo totale dei token. Ciò consente un tracciamento accurato dei costi per ogni richiesta.

Attivazione della modalità JSON per output strutturati

Usa response_format impostato a {"type": "json_object"} per imporre l'output JSON. Questo assicura che il modello restituisca strutture JSON valide. Utile per l'analisi dei dati o l'integrazione con altri sistemi.

Imposta il parametro nel corpo della richiesta. Il modello aderirà rigorosamente alle regole di formattazione JSON. Questo riduce gli errori di analisi nelle applicazioni a valle.

Utilizzo del tool calling (function calling)

Definisci gli strumenti nella richiesta utilizzando il tools parametro. Il modello può chiamare queste funzioni in base al prompt. Usa tool_choice per controllare l'invocazione delle funzioni.

Specificare le definizioni delle funzioni nella richiesta. L'API restituisce gli argomenti della chiamata allo strumento. Analizza questi argomenti per eseguire le funzioni. Questo abilita flussi di lavoro di agenti complessi.

Comprendere l'utilizzo e i costi dei token

La finestra di contesto è di 100.000 token. L'output massimo è di 16.000 token per richiesta. Il prezzo è $0.15 per 1M di token di input e $0.50 per 1M di token di output. Gli errori sono gratuiti.

Verifica l'ultimo chunk SSE per i dettagli sull'utilizzo. I conteggi dei token riflettono l'elaborazione effettiva. Non sono applicate tariffe di abbonamento. Paga solo per ciò che utilizzi.