Первый запрос.
Всё остальное —
знакомо.

Ключ создаётся в личном кабинете. Он передаётся в заголовке Authorization или x-api-key для каждого запроса.

Настоящий ключ следует хранить на сервере, в переменной окружения.

Передайте идентификатор модели и историю сообщений. Для примера возьмём deepseek-v4.1-flash-1017 с коэффициентом ×0.2.

curl http://31.77.132.142:4000/v1/chat/completions \
  -H "Authorization: Bearer tm_live_your_api_key" \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-v4.1-flash-1017", "messages": [{"role": "user", "content": "Объясни API в одном предложении."}]}'

from openai import OpenAI

client = OpenAI(
    base_url="http://31.77.132.142:4000/v1",
    api_key="tm_live_your_api_key",
)

response = client.chat.completions.create(
    model="deepseek-v4.1-flash-1017",
    messages=[{
        "role": "user",
        "content": "Объясни API в одном предложении.",
    }],
)
print(response.choices[0].message.content)

Текст ответа находится в choices[0].message.content. Поле usage показывает входные и выходные токены — по ним списываются единицы.

{
"model": "deepseek-v4.1-flash-1017","choices": [{"message": {"role": "assistant", "content": "API — это способ общения программ друг с другом."}}],"usage": {"prompt_tokens": 32, "completion_tokens": 18, "total_tokens": 50}}

Anthropic-совместимый API

Эндпоинт http://31.77.132.142:4000/v1/messages принимает запросы в формате Anthropic Messages: x-api-key вместо Authorization, обязательный max_tokens и ответ с блоками content и usage.input_tokens / output_tokens. Работают официальный Anthropic SDK и любой HTTP-клиент.

curl http://31.77.132.142:4000/v1/messages \
  -H "x-api-key: tm_live_your_api_key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-v4.1-flash-1017", "max_tokens": 1024, "messages": [{"role": "user", "content": "Объясни API в одном предложении."}]}'

from anthropic import Anthropic

client = Anthropic(
    base_url="http://31.77.132.142:4000",
    api_key="tm_live_your_api_key",
)

message = client.messages.create(
    model="deepseek-v4.1-flash-1017",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Объясни API в одном предложении."}],
)
print(message.content[0].text)

Меняйте модель под задачу

Выберите идентификатор в каталоге и подставьте его в поле model. Общая структура запроса остаётся прежней.

Считайте в единицах

Стоимость запроса задаётся коэффициентом модели. Более сложные модели имеют больший коэффициент. Входные и выходные токены считаются одинаково.

Коэффициенты каталога — демонстрационные. Списание выполняется автоматически после каждого запроса и видно в кабинете.

Стриминг через SSE

Передайте "stream": true — шлюз отдаст ответ потоком. В OpenAI-формате это кадры data: {...} с завершением data: [DONE] и финальным блоком usage. В Anthropic-формате — события message_start, content_block_delta, message_delta и message_stop.

Токены стрима учитываются так же, как обычного запроса: usage приходит последним кадром потока.

Если что-то пошло не так

Ответы на типичные ошибки интеграции.