Вы переплачиваете за ИИ почти в 10 раз. Как это исправить

Считаю на реальных ценах Claude, как бот поддержки дешевеет с $5250 до $600 в месяц: маршрутизация между моделями, кэш промптов, пакетная обработка и короткие ответы.

Содержание8
  1. Сначала посмотрите на прайс
  2. Считаем на живом примере
  3. Настройка 1. Простое отдайте дешёвой модели
  4. Настройка 2. Не платите дважды за одно и то же
  5. Настройка 3. Всё, что не горит, отправляйте пакетами
  6. Настройка 4. Короткие ответы
  7. Три ловушки, на которых теряют деньги
  8. С чего начать завтра

Когда основатель жалуется мне, что ИИ съедает маржу, я прошу показать одну вещь: какая модель отвечает на простой вопрос вроде где мой заказ. Почти всегда ответ один и тот же. Самая дорогая. Та же, что пишет сложную аналитику.

Это как возить пиццу на бронированном лимузине. Доедет, но экономика не сойдётся. Хорошая новость: большая часть переплаты убирается четырьмя настройками, и ни одна из них не требует переписывать продукт.

Все цифры ниже взяты из официального прайса Anthropic на сентябрь 2026 года. У других провайдеров логика та же, отличаются только ставки.

Сначала посмотрите на прайс

  • Claude Opus 5: $5 за миллион входных токенов и $25 за миллион выходных.
  • Claude Sonnet 5: $2 и $10. Кстати, Anthropic отказалась от запланированного на 1 сентября повышения до $3 и $15, так что вводная цена стала постоянной.
  • Claude Haiku 4.5: $1 и $5.

В глаза бросаются две вещи. Разница между верхней и нижней моделью пятикратная. А выходные токены у всех в пять раз дороже входных. Отсюда и растут все способы экономии.

Считаем на живом примере

Возьмём бота поддержки на 100 тысяч обращений в месяц. В каждом запросе 8000 токенов неизменной части (инструкции, база знаний, описание инструментов), 500 токенов вопроса клиента и 400 токенов ответа.

Вариант по умолчанию: всё идёт в Opus 5. Вход 850 млн токенов на $4250, выход 40 млн токенов на $1000. Итого $5250 в месяц.

Теперь применяем настройки по очереди.

Настройка 1. Простое отдайте дешёвой модели

В поддержке обычно четыре вопроса из пяти типовые: статус заказа, возврат, смена адреса. С ними спокойно справляется Haiku. Сложные случаи, жалобы и всё, в чём модель не уверена, уходят в Opus. Решение принимает сама дешёвая модель или простой набор правил, а при сомнении запрос поднимается на уровень выше.

Считаем: 80% трафика на Haiku стоят $840, оставшиеся 20% на Opus стоят $1050. Итого $1890. Уже почти втрое дешевле, и качество на сложных вопросах не пострадало, потому что ими по-прежнему занимается сильная модель.

Тот же принцип работает между провайдерами: рутину можно отправлять в самую дешёвую подходящую модель на рынке, а сложное в лучшую. Главное, чтобы маршрутизатор был вашим собственным, а не сторонним сервисом. Через такие посредники, как показал свежий отчёт Anthropic, утекают переписки и ключи.

Настройка 2. Не платите дважды за одно и то же

Те самые 8000 токенов инструкций и базы знаний одинаковы в каждом запросе, и без кэша вы оплачиваете их 100 тысяч раз. С кэшем модель читает их из памяти по цене 10% от обычного входа. Запись в кэш стоит в 1,25 раза дороже обычного входа, если хранить 5 минут, и в 2 раза дороже, если хранить час. Поэтому пятиминутный кэш окупается уже на втором запросе.

В разработке это почти бесплатно: в API Anthropic достаточно добавить одно поле cache_control на верхнем уровне запроса, дальше система сама расставит точки кэширования. Правило одно: всё неизменное ставьте в начало запроса, всё переменное в конец.

Считаем: Haiku теперь стоит $264, Opus $330. Итого около $600 плюс небольшие расходы на запись в кэш. Против исходных $5250 это почти в 9 раз меньше.

Настройка 3. Всё, что не горит, отправляйте пакетами

Ночная разметка обращений, сводки, перевод каталога, классификация документов. Если результат нужен не прямо сейчас, отправляйте такие задачи через Batch API. Там скидка 50% и на вход, и на выход, и она складывается с кэшем. На задачах, где ответ может подождать, это ещё одно деление счёта пополам.

Настройка 4. Короткие ответы

Раз выход в пять раз дороже входа, самый дорогой токен это лишнее слово в ответе. Просите структурированный формат вместо эссе, ставьте разумный лимит на длину и убирайте вежливые вступления, которые никто не читает. Если сократить ответ с 400 до 250 токенов, выходная часть счёта станет меньше почти на 40%.

Три ловушки, на которых теряют деньги

Новый токенизатор. Модели Claude начиная с версии 4.7 используют токенизатор, который, по данным Anthropic, даёт примерно на 30% больше токенов на тот же текст. Переезжая на новую модель, пересчитайте бюджет, а не только цену за миллион.

Бездонный контекст. Контекст в 1 млн токенов у современных моделей тарифицируется по обычной цене, и это соблазн складывать в запрос всю документацию разом. Не надо. Подгружайте только нужные фрагменты, остальное это деньги на ветер.

Инструменты агента. Веб-поиск через API стоит $10 за тысячу поисков сверх токенов. Загрузка страниц отдельно не тарифицируется, но всё загруженное превращается во входные токены. Агент, который на каждый вопрос делает десять поисков, быстро становится самой дорогой строкой в счёте.

С чего начать завтра

  • Включите учёт токенов по каждой функции продукта. В ответе API уже есть поля с количеством входных, выходных и кэшированных токенов.
  • Найдите три самые дорогие функции и посмотрите, какая модель их обрабатывает.
  • Включите кэш для всех запросов с длинными инструкциями.
  • Уведите типовые запросы на дешёвую модель и сравните качество на сотне реальных примеров.
  • Всё, что может подождать, переведите в пакетную обработку.

Сама Anthropic в документации советует ровно это: простые задачи на Haiku, основную нагрузку на Sonnet, самые сложные рассуждения на Opus, плюс кэш и пакеты. Разница лишь в том, что большинство команд эти советы пролистывает.

ИИ не дорогой. Дорого отправлять каждый вопрос самому умному сотруднику компании.

ИИ и будущееБизнес

Ещё про ИИ и будущее

  1. Anthropic бесплатно учит ИИ. 21 курс и маршрут на месяцИИ и будущее4 мин
  2. ИИ найдёт ваш дом по одному фото. Как стереть себя из сетиИИ и будущее5 мин
  3. ИИ перестал помогать хакерам. Теперь он работает вместо нихИИ и будущее11 мин

↑↓ выбрать · Enter открыть · Esc закрыть