Qwen unrestricted: openai uyumlu api hızlı başlangıç

Kimlik doğrulama ve base URL

İlk adım, istemcinizi barındırılan uç noktamıza yönlendirmektir. https://api.qwenunrestricted.com/v1 temel URL olarak. API anahtarınızı Authorization üstbilgiyi Bearer token olarak kullanın. Bu, herhangi bir OpenAI uyumlu SDK ile çalışır.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

İstekleri göndermeden önce anahtarınızın geçerli olduğundan emin olun. 401 hatası, anahtarın geçersiz veya süresi dolmuş olduğunu gösterir.

Sohbet tamamlama isteği gönderme

Şuraya bir POST isteği gönderin /v1/chat/completions isteminizle birlikte. Model kimliği uncensored. Bu model yasal yetişkin veya tartışmalı konuları reddetmez. Temel zeka kalitesini bozmadan kısıtlama olmayan çıktılar sağlar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Model adını şuna ayarlayın uncensored. API, standart parametreleri kabul eder messages ve max_tokens.

Sıcaklık ve top_p yapılandırma

Ayarla temperature ve top_p rastgeleliği kontrol etmek için. Daha yüksek değerler yaratıcılığı artırır. Daha düşük değerler çıktıları daha belirleyici hale getirir. Bu parametreler, modelin oluşturma sırasında token seçme şeklini etkiler.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ayarla temperature dengeleyici sonuçlar için 0.7'ye kadar. Kullan top_p aday tokenların olasılık kütlesini sınırlamak için. Bu, çıktı çeşitliliğini kontrol etmenize yardımcı olur.

Akış yanıtlarını işleme (SSE)

Ayarlayarak akışı etkinleştirin stream true olarak ayarlayın. API, Sunucu Tarafından Gönderilen Olaylar (SSE) döndürür. Her parça kısmi token verisi içerir. Son yanıtı oluşturmak için bu parçaları toplayın.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tokenları gerçek zamanlı görüntülemek için SSE akışını ayrıştırın. Son parça toplam token kullanımını içerir. Bu, her istek için doğru maliyet takibine olanak tanır.

Yapılandırılmış çıktı için JSON modu uygulanıyor

Kullan response_format ayarlanmıştır {"type": "json_object"} JSON çıktısını zorlamak. Bu, modelin geçerli JSON yapıları döndürmesini sağlar. Veri ayrıştırmak veya diğer sistemlerle entegre etmek için kullanışlıdır.

İstek gövnenizdeki parametreyi ayarlayın. Model, JSON biçimlendirme kurallarına sıkı sıkıya uyacaktır. Bu, aşağı akış uygulamalarındaki ayrıştırma hatalarını azaltır.

Araç çağırma (fonksiyon çağırma) kullanımı

Şu tools parametre. Model, prompt'a dayanarak bu işlevleri çağırabilir. Kullan tool_choice işlev çağrısını kontrol etmek için.

İsteğe işlev tanımlamalarını belirtin. API, araç çağrı argümanlarını döndürür. İşlevleri yürütmek için bu argümanları ayrıştırın. Bu, karmaşık ajan iş akışlarını mümkün kılar.

Token kullanımını ve maliyetleri anlama

Bağlam penceresi 100.000 token'dır. Maksimum çıktı istek başına 16.000 token'dır. Fiyatlandırma 1M girdi token'ı başına $0.15 ve 1M çıktı token'ı başına $0.50'dir. Hatalar ücretsizdir.

Kullanım detayları için son SSE parçasını kontrol edin. Token sayıları gerçek işlemi yansıtır. Abonelik ücreti yoktur. Sadece kullandığınız şey için ödeme yapın.