API НейроВаси

Первый запрос

Локальный Base URL: http://127.0.0.1:4175/v1. Укажите созданный в кабинете ключ nv_live_…. Публичный сайт пока показывает интерфейс и документацию. Эти примеры относятся к локальному шлюзу; публикация сайта сама по себе не запускает онлайн-API.

from openai import OpenAI

client = OpenAI(
    api_key="nv_live_YOUR_KEY",
    base_url="http://127.0.0.1:4175/v1",
    max_retries=0,
)

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "user", "content": "Привет, Вася!"}
    ],
)
print(response.choices[0].message.content)

Ключ вашего проекта

Полный токен показывается только при создании. Сервер хранит его хеш. Вы можете ограничить бюджет, приостановить или отозвать ключ. Храните ключ в своём серверном окружении, а не в публичном JavaScript.

Локальный кабинет владельца не является многопользовательской авторизацией: сервер доступен только на loopback-адресе. Регистрация и баланс из демонстрационного интерфейса не дают доступа к провайдеру.

Что поддерживается

POST /v1/chat/completions: model, messages с текстовыми content и ролями system/user/assistant, temperature, max_tokens, stream. Потоковый ответ использует SSE. GET /v1/models возвращает включённые в шлюз модели и требует наш ключ.

Первая версия принимает до 50 сообщений, до 32 КБ истории и максимум 4 096 выходных токенов. Вложения, изображения, аудио, tool calling и платные серверные инструменты пока отклоняются явно.

Стоимость и бюджет

Бюджет ключа — лимит расходов за календарный месяц по московскому времени. Перед отправкой сервер делает консервативный резерв. После успешного ответа расход рассчитывается по usage.cost_rub AITunnel и коэффициенту шлюза.

Если соединение прервано или стоимость отсутствует, статус запроса — «Нужна сверка», резерв остаётся удержанным. Шлюз не повторяет платные запросы. В примерах SDK повторы отключены; перед ручным повтором после обрыва проверьте историю и стоимость. Изменение тарифа провайдера или дополнительное начисление может отличаться от предварительной оценки: проверяйте историю.

401 — неверный ключ; 403 — приостановлен или отозван; 402 — недостаточный бюджет; 429 — ограничение частоты или шлюз занят; 503 — ключ провайдера не настроен или провайдер недоступен; 502 — ошибка ответа или нужна сверка.

Реальные деньги за запрос списываются с аккаунта владельца в AITunnel. Демопополнение на сайте на этот счёт не влияет.