Qwen Unrestricted: швидкий старт з OpenAI-сумісним API

Автентифікація та базовий URL

Перший крок — вказати ваш клієнт на наш хостований ендпоінт. Використовуйте https://api.qwenunrestricted.com/v1 як вашу базову URL-адресу. Передайте свій API-ключ у Authorization header as a Bearer token. This works with any OpenAI-compatible SDK.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Переконайтеся, що ваш ключ дійсний перед надсиланням запитів. Помилка 401 означає, що ключ недійсний або прострочений.

Надсилання запиту на завершення чату

Надішліть POST-запит на /v1/chat/completions з вашим промптом. Ідентифікатор моделі uncensored. Ця модель не відхиляє законний дорослий або дискусійний контент. Вона надає необмежені результати без зниження базового інтелекту.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Встановіть назву моделі на uncensored. API приймає стандартні параметри, такі як messages та max_tokens.

Налаштування temperature та top_p

Налаштувати temperature та top_p для контролю випадковості. Вищі значення збільшують креативність. Нижчі значення роблять результати більш детермінованими. Ці параметри впливають на те, як модель обирає токени під час генерації.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Встановити temperature to 0.7 for balanced results. Use top_p щоб обмежити ймовірнісну масу кандидатів на токени. Це допомагає контролювати різноманітність виводу.

Обробка потокових відповідей (SSE)

Увімкніть потокову передачу, встановивши stream для true. API повертає події, надіслані сервером (SSE). Кожен фрагмент містить часткові дані токенів. Зберігайте ці фрагменти, щоб побудувати остаточну відповідь.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Парсуйте SSE-потік, щоб відображати токени у реальному часі. Останній чанк містить загальне використання токенів. Це дозволяє точно відстежувати витрати на кожен запит.

Увімкнення режиму JSON для структурованого виводу

Використовувати response_format встановлено на {"type": "json_object"} для примусового виводу JSON. Це гарантує, що модель повертає валідні структури JSON. Корисно для парсингу даних або інтеграції з іншими системами.

Встановіть параметр у тілі запиту. Модель суворо дотримуватиметься правил форматування JSON. Це зменшує помилки аналізу в програмах, що працюють далі за ланцюжком.

Використання виклику інструментів (function calling)

Визначте інструменти в тілі запиту за допомогою tools параметр. Модель може викликати ці функції на основі запиту. Використовуйте tool_choice для контролю виклику функцій.

Вкажіть визначення функцій у запиті. API повертає аргументи виклику інструментів. Розпарсуйте ці аргументи для виконання функцій. Це дозволяє складні робочі процеси агентів.

Розуміння використання токенів та витрат

Розмір контекстного вікна становить 100 000 токенів. Максимальний обсяг виводу — 16 000 токенів за запит. Ціна становить $0.15 за 1M вхідних токенів та $0.50 за 1M вихідних токенів. Помилки безкоштовні.

Перевірте останній чанк SSE для деталей використання. Кількість токенів відображає фактичну обробку. Платежні підписки не застосовуються. Платіть лише за те, що використовуєте.