Модели и цены в API

Как получить список моделей, что означают его поля, как посчитать стоимость запроса к текстовой модели и где смотреть параметры и цену остальных нейросетей.

Обновлено: 4 мин чтения

Запросите список

curl https://epicai.ru/v1/models \
  -H "Authorization: Bearer $EPICAI_API_KEY"

Ответ содержит объект list с массивом data. Одну модель отдаёт адрес GET /v1/models/{id}, имя вида vendor/model можно писать с косой чертой или кодировать (vendor%2Fmodel). Параметр type оставляет в списке модели одного вида, значения chat, image, video, music, speech, transcription или document. Модели в каталоге добавляют и снимают, поэтому читайте список при запуске программы и не хардкодьте имена.

{
  "id": "vendor/model-name",
  "object": "model",
  "created": 0,
  "owned_by": "Vendor",
  "name": "Model Name",
  "context_window": 200000,
  "capabilities": {"vision": true, "tools": true, "reasoning": false, "streaming": true},
  "pricing": {
    "currency": "TOK",
    "unit": "1M tokens",
    "free": false,
    "input": 400000,
    "output": 1200000,
    "cached_input": 100000
  }
}

Поля модели

ПолеЗначение
idИмя для поля model в запросе. Берётся из каталога сайта без изменений
typeВид модели. Текстовая модель (chat) запускается через /v1/chat/completions, остальные через /v1/tasks
createdВсегда 0, дата выпуска модели не отдаётся
owned_byВендор модели. От него зависит, какие параметры запроса модель принимает, см. статью Запрос к модели
nameЧитаемое название, как на сайте
context_windowРазмер окна контекста в токенах модели. Ноль означает, что размер не задан
capabilities.visionПринимает ли модель картинки во входных сообщениях
capabilities.toolsВызов функций, у всех моделей списка true
capabilities.reasoningУмеет ли модель рассуждать и принимает ли reasoning_effort
capabilities.streamingПотоковый ответ, у всех моделей списка true
pricing.input, pricing.outputЦена в TOK за миллион токенов модели на входе и на выходе
pricing.cached_inputЦена входных токенов, которые вендор взял из своего кэша. Если у модели нет отдельной цены кэша, поле равно input
pricing.freeПризнак бесплатной модели. Сейчас в списке API бесплатных моделей нет, у остальных false

Посчитайте стоимость запроса

Цена в списке дана в TOK за миллион токенов модели. Токены считает вендор и отдаёт числа в usage, а epicai умножает их на цены. Обычные входные токены идут по input, прочитанные из кэша по cached_input, токены ответа по output.

стоимость = ввод × input / 1 000 000
          + из_кэша × cached_input / 1 000 000
          + ответ × output / 1 000 000

Возьмём для примера цены из образца выше, 400 000 TOK за миллион на входе и 1 200 000 на выходе. Запрос с 10 000 токенов на входе и 2 000 на выходе стоит 4 000 + 2 400 = 6 400 TOK. Итог округляется вверх до целого TOK, поэтому любой запрос с ненулевым расходом стоит не меньше 1 TOK. Исключение составляют модели со встроенным платным поиском. У них к сумме добавляется плата за поиск, о ней рассказывает статья Баланс и списание в API.

Ценовая акция на модель действует и в API, если она есть у вашего аккаунта. Цена в списке базовая, а в расходе акция уже учтена. Размер скидки определяет момент старта запроса, и по одной цене считаются и резерв, и итоговое списание. Точную сумму сообщает поле epic.cost_tok.

Модели картинок, видео, звука и документов

У остальных моделей цена относится к задаче целиком, а не к токенам. В pricing указаны единица task и адрес POST /v1/quote. В списке такая модель описана кратко. Полное описание отдаёт GET /v1/models/{id}.

ПолеЗначение
endpointsАдреса, через которые модель запускается
parametersДопустимые параметры модели в виде JSON Schema, их значения, умолчания и подсказки о влиянии на цену
inputs, inputs_byСколько входных картинок, видео и записей принимает модель, а у многорежимных моделей это число по режимам
prompt_max, prompt_requiredПредельная длина текста запроса и признак, что текст обязателен
pricing.examplesЦены типичных сочетаний параметров в TOK
input_filesДопустимые форматы и предельный размер входных файлов по видам
pricing.depends_on_inputsПризнак видеомодели, у которой цена зависит ещё от числа или длины входных файлов. У озвучки и расшифровки флага нет, а цена зависит от текста и записи. Точное число даёт POST /v1/quote

О запросе цены и запуске задачи рассказывают статьи Цена задачи и Задачи.

Какие модели попадают в список

В список входят включённые на сайте модели с поддержкой протоколов API. Среди текстовых нет бесплатных и служебных моделей сайта.

Новая модель появляется в списке сама, а администрация epicai вправе скрыть любую модель из API. Если у ключа задан список разрешённых моделей, он сужает и ответ GET /v1/models. Обращение к модели, которой нет в каталоге, даёт 404 model_not_found. Если модель есть, но ключу не разрешена, ответ 403 model_not_allowed. При этом GET /v1/models/{id} для такой модели отвечает 404, словно её не существует.

Не нашли ответ?

Посмотрите частые вопросы или напишите в поддержку.

Войти или создать аккаунт

20 000 токенов в подарок новым пользователям. Без карты и без VPN.

или через сервис

Продолжая, вы получаете сервисные письма.

Для защиты от роботов используется Yandex SmartCaptcha. Условия обработки данных.