Цена одного короткого ответа плохо описывает стоимость рабочего бота. В запрос могут повторно входить инструкция, история диалога, найденные документы и результаты инструментов. Выход тоже бывает разным: короткий ответ, длинный разбор или несколько внутренних шагов. Начинать расчёт нужно с потока запросов, а не с одной красивой цифры.
Цена диалога складывается из повторяемого входа и нового выхода; числа и тарифы учебные.
Все тарифы ниже вымышлены и выражены в условных денежных единицах. Это учебный расчёт, не действующие цены поставщика. Перед реальной оценкой откройте актуальную страницу выбранной модели и проверьте, какие виды входа, выхода, кэша и дополнительных инструментов оплачиваются отдельно.
Что считать на каждом обращении
Запишите входные и выходные токены, модель, тип тарифа и идентификатор операции. Токен не равен слову: разбиение зависит от модели, языка и содержимого. Для оценки используйте предусмотренный поставщиком счётчик, а для фактического учёта его поля использования и счета.
Не складывайте все вызовы приложения в одну неподписанную сумму. Запрос пользователя может породить классификацию, поиск, основную генерацию и повтор после ошибки. Если виден только последний ответ, часть расходов потеряется. Оценка токенов до отправки и финальный биллинг могут различаться; счётчик полезен, но не заменяет сверку.
Отдельно храните затраты на инфраструктуру, хранение и внешние сервисы. Они не превращаются в токены модели. В учебном калькуляторе ниже эти статьи расходов исключены специально, чтобы сначала разобраться с историей переписки.
Маленькая модель диалога
Пусть инструкция занимает тысячу входных токенов. Каждое новое сообщение пользователя - двести. Каждый ответ - триста выходных токенов. На каждом шаге приложение заново отправляет всю предыдущую историю. Кэширование, сжатие и скрытые дополнительные шаги в модели отсутствуют.
В первом запросе вход равен 1000+200=1200. Во втором передаются инструкция, два сообщения пользователя и один прежний ответ: 1000+400+300=1700. В третьем вход равен 2200. На шаге k получается 1000+200k+300(k−1), то есть 700+500k.
За десять шагов суммарный вход равен 34 500 токенам, выход - 3000. Наивный расчёт «десять раз по 1200» дал бы 12 000 входных токенов и пропустил бы повторную передачу истории. Это свойство выбранной модели отправки, а не обязательное поведение любого API.
Если вход стоит две условные единицы за миллион токенов, а выход восемь, стоимость равна 34500·2/1000000+3000·8/1000000=0,093. Тысяча таких одинаковых диалогов в этой упрощённой модели стоит девяносто три условные единицы только за эти вызовы.
Проверяемый расчёт на Python
Для денежных вычислений в примере используется Decimal. Вводимые числа и правила определены явно; это не оценка реального поведения модели.
from decimal import Decimal
turns = 10
system_tokens = 1000
user_tokens = 200
answer_tokens = 300
input_total = sum(
system_tokens + user_tokens * k + answer_tokens * (k - 1)
for k in range(1, turns + 1)
)
output_total = answer_tokens * turns
cost = (
Decimal(input_total) * Decimal("2")
+ Decimal(output_total) * Decimal("8")
) / Decimal(1_000_000)
assert input_total == 34500
assert output_total == 3000
assert cost == Decimal("0.093")
Попробуйте двадцать шагов. Суммарный вход станет 119 000 токенов, выход шесть тысяч, стоимость 0,286 условной единицы. Удвоение длины диалога увеличило расходы больше чем вдвое из-за повторяемой истории. Это не прогноз роста любого бота: в рабочем приложении история может ограничиваться или пересобираться иначе.
Где появляются дополнительные расходы
Если после неудачного ответа модель вызывается снова, это новый вызов. Повтор сетевого запроса тоже нужно учитывать по фактическим правилам поставщика: неизвестный исход запроса нельзя считать бесплатным только потому, что пользователь не увидел текст. Длинные документы могут занимать существенную часть входа даже при коротком вопросе.
Кэширование иногда уменьшает стоимость повторяемых частей, но у него есть собственные условия, типы записей и сроки. Нельзя вычесть всю историю из бюджета, просто назвав её кэшем. В журнале должны различаться обычный и кэшированный вход, если такой тариф применяется.
Некоторые режимы учитывают дополнительные внутренние токены или отдельные инструменты. Перед сравнением моделей выпишите полную структуру цены и одинаковую тестовую задачу. Не сравнивайте короткий ответ одной модели с длинной многошаговой работой другой как равные единицы услуги.
Как ограничить бюджет без порчи ответа
Задайте предел шагов, длины ответа и расходов на операцию. Ограничьте число параллельных работ. При достижении лимита завершайте процесс понятным статусом, а не бесконечно просите модель попробовать ещё раз.
Историю можно сокращать, но проверяйте сохранность существенных фактов и пользовательских ограничений. Резюме тоже требует генерации и иногда теряет важное условие. Полезно отдельно хранить подтверждённые параметры задачи и передавать только относящиеся к текущему действию документы.
До запуска соберите несколько вымышленных или разрешённых тестовых диалогов разной длины. Запишите использование по каждому шагу. Не публикуйте личные переписки ради демонстрации и не переносите ключ в клиентский код. Бюджет должен наблюдаться сервером, а не только кнопкой в интерфейсе.
Упражнения и ответы
- В учебной модели пять шагов. Вход: 700·5+500·15=11 000 токенов. Выход: 1500. Цена: 0,034 условной единицы.
- Почему длинный диалог может дорожать быстрее числа сообщений? Предыдущая история повторно входит в последующие запросы.
- Можно ли переводить русские слова в токены постоянным коэффициентом для точного счёта? Нет. Нужен счётчик выбранной модели и фактическое использование.
Частые вопросы
Один пользователь равен одному запросу? Не обязательно. Приложение может выполнять несколько вызовов на одно действие.
Счётчик до запроса гарантирует окончательную цену? Он помогает оценке, но окончательный учёт зависит от тарифа, ответа и дополнительных операций.
Нужно ли сразу выбирать самую дешёвую модель? Сначала сравните качество на одинаковых задачах и полную стоимость успешного результата, включая повторы.
Откройте Кодик, чтобы посмотреть доступные учебные направления и выбрать подходящий маршрут. Начните с такого прозрачного калькулятора, затем замените учебные числа фактическими данными своего приложения.