Qwen Unrestricted: быстрое начало работы с API, совместимым с OpenAI

Аутентификация и базовый URL

Первый шаг — указать вашего клиента на наш размещённый конечный пункт. Используйте https://api.qwenunrestricted.com/v1 в качестве базового URL. Передайте ваш API-ключ в Authorization заголовок как Bearer-токен. Это работает с любым SDK, совместимым с OpenAI.

Copycurl https://api.qwenunrestricted.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List steps to deploy a docker container."}]
  }'

Убедитесь, что ваш ключ действителен перед отправкой запросов. Ошибка 401 означает, что ключ недействителен или истек.

Отправка запроса на завершение чата

Отправьте POST-запрос на /v1/chat/completions с вашим промптом. Идентификатор модели uncensored. Эта модель не отклоняет законный контент для взрослых или спорные темы. Она предоставляет неограниченные ответы без снижения базового интеллекта.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenunrestricted.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Установите имя модели на uncensored. API принимает стандартные параметры, такие как messages и max_tokens.

Настройка temperature и top_p

Настроить temperature и top_p для контроля случайности. Более высокие значения увеличивают креативность. Более низкие значения делают выводы более детерминированными. Эти параметры влияют на то, как модель выбирает токены при генерации.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenunrestricted.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Установить temperature to 0.7 for balanced results. Use top_p чтобы ограничить вероятностную массу кандидатов. Это помогает контролировать разнообразие вывода.

Обработка потоковых ответов (SSE)

Включите потоковую передачу, установив stream в true. API возвращает Server-Sent Events (SSE). Каждый чанк содержит частичные данные токенов. Соберите эти чанки, чтобы построить окончательный ответ.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Разберите поток SSE, чтобы отображать токены в реальном времени. Последний чанк содержит общее использование токенов. Это позволяет точно отслеживать расходы по каждому запросу.

Включение режима JSON для структурированного вывода

Использовать response_format установлен на {"type": "json_object"} для принудительного вывода JSON. Это гарантирует, что модель вернёт корректные структуры JSON. Полезно для парсинга данных или интеграции с другими системами.

Установите параметр в теле запроса. Модель будет строго придерживаться правил форматирования JSON. Это снижает ошибки разбора в последующих приложениях.

Использование вызова инструментов (function calling)

Определите инструменты в запросе с помощью tools параметр. Модель может вызывать эти функции на основе запроса. Используйте tool_choice для управления вызовом функций.

Specify function definitions in the request. The API returns tool call arguments. Parse these arguments to execute functions. This enables complex agent workflows.

Понимание использования токенов и затрат

Окно контекста составляет 100 000 токенов. Максимальный вывод — 16 000 токенов за запрос. Тарификация: $0.15 за 1M входных токенов и $0.50 за 1M выходных токенов. Ошибки бесплатны.

Проверьте последний чанк SSE для получения данных об использовании. Количество токенов отражает фактическую обработку. Платежи по подписке не применяются. Платите только за то, что используете.