Plan B для AI в компании: когда облачный API подорожал, а бизнес уже на нейросети

«Мы встроили AI в поддержку, CRM и отчёты — работает. Потом пришёл счёт: в три раза больше прошлого квартала. Отключать нельзя, платить больно. Что делать?»

Это уже не про «какую модель выбрать в leaderboard». Это про деньги, риски и управляемость. Ниже — где утекает бюджет, три рабочих Plan B и чеклист, который можно переслать CFO.

Главное. Счёт за LLM вырос — не меняйте модель в панике. Лимиты, кэш, свой контур на типовом, правила вместо модели где можно. Потолок для CFO важнее leaderboard.

Почему тема всплыла именно сейчас

Типичный сценарий за последний год:

1. Быстро подключили облачный LLM к чату, почте и базе знаний.
2. Добавили сценарии: суммаризация тикетов, черновики КП, поиск по документам.
3. Объём запросов вырос быстрее, чем успели поставить лимиты и метрики.
4. Провайдер пересмотрел тарифы — и рост OPEX попал на стол CFO.

Параллельно усилились вопросы 152-ФЗ и периметра: персональные данные и переписка клиентов в публичном API без прозрачного DPA — риск, который раньше откладывали.

Plan B — не отказ от AI. Это вторая схема поставки, когда основной канал (платный API на каждый запрос) становится слишком дорогим или неприемлемым по compliance.

Где утекают деньги

Паттерн	Что происходит	Эффект
Чат без потолка	Один вопрос гоняют в 5 формулировках	Счёт растёт с «любопытством»
RAG «на всякий случай»	В контекст — десятки страниц	Платите за входные токены
Агент без лимита шагов	Циклы «попробуй ещё»	Сотни вызовов на один сбой
Три интеграции к одной базе	CRM, поддержка, портал	Тройной OPEX и риск утечки
Нет кэша	Одинаковые FAQ каждый раз в LLM	30–60% запросов лишние

Если нет стоимости типового запроса и топ-5 сценариев по объёму — Plan B выбирают вслепую.

Три рабочих Plan B

1. Управляемый облачный контур

API остаётся, появляются правила:

• лимиты на пользователя, отдел, сценарий (cap в ₽);
• маршрутизация: черновик — дешевая модель, финал — дорогая;
• кэш типовых ответов (TTL 24–72 ч);
• сжатие контекста, запрет «тащить всю базу» в каждый запрос.

Срок: 1–2 недели. Эффект: часто −40–70% счёта без смены продукта.

2. Модель внутри периметра

Self-hosted или частное облако (VPC, on-prem, российский хостинг):

• ПДн и договоры не уходят в публичный API;
• OPEX смещается с «за токен» на «железо + админку» — при стабильном объёме иногда выгоднее за 6–12 месяцев.

Когда: госконтур, финтех, жёсткий NDA, > 500k запросов/мес на одном контуре. Нужны: SRE/MLOps и контроль качества.

3. AI в приложении, а не чат «на всё»

LLM — где нужна вариативность языка. Повторяемое — код и процессы. Это зона разработки внутренних систем, а не бесконечного корпоративного чата.

Какой Plan B выбрать

Ситуация	Рекомендация
Счёт ×2 за квартал, данные не критичны	Лимиты + маршрутизация + кэш
Данные только в РФ / без US API	Свой контур или гибрид
80% запросов — одни и те же операции	Автоматизация в приложении
Маленькая команда, нет DevOps	Не self-hosted; контуры 1 и 3
«Хотим как в Twitter»	Сначала метрики, потом инфра

Чеклист для CTO

Антипаттерны

• «Одна нейросеть на всё» без владельца бюджета.
• Промпты с клиентскими данными из интернета.
• Смена модели каждую неделю — метрики несопоставимы.
• Self-hosted «бесплатно» без учёта железа и людей.

Главное

Подорожание API — сигнал зрелости. Зрелая компания отвечает: где AI даёт маржу, где хватит кода, какой запасной контур включится при тарифе ×2 или сбое.

Часто быстрее всего не менять модель, а убрать лишние вызовы и вынести повторяемые процессы в приложение.

Мы в NineLab помогаем пройти этот переход: аудит сценариев AI, оценка стоимости запроса, проектирование внутренних систем и high-load, где нагрузка уже измерима. Для production-агентов с интеграциями — разработка и внедрение ИИ-агентов, обзор подхода — в pillar-гайде. Первая консультация — бесплатно: ninelab.ru/contacts, Telegram @MozziDev.

Что дальше

Проверим систему до пика трафика: нагрузочное тестирование, аудит производительности, ИИ-агенты для бизнеса, прайс.