или авторизуйтесь, если у вас он уже есть
Сгенерировать код нейросетью сегодня умеет каждый. Проблема начинается там, где этот код надо выкатить в продакшен и отвечать за результат: та же задача при повторе даёт другой результат, проверка съедает выигрыш в скорости, а стоимость прогона непредсказуема.
Расскажу, как у нас устроена мультиагентная система, которая больше года работает в продакшене: команда ИИ-агентов с ролями разбирает каталоги поставщиков в структурированную базу и параллельно дорабатывает собственный код. Не прототип — живые прогоны и коммиты.
Разберу по пунктам:
• Три стены, в которые упирается любой агент в проде: недетерминизм (промптом не лечится), экономика (всё через одну топ-модель не сходится) и зависимость от вендора.
• Как получается надёжность из ненадёжной модели: цель разбирается в граф ролей, где контроль качества — это код (компиляция, проверка синтаксиса), а не самооценка модели. Гейт нельзя уговорить.
• Кто отвечает за ошибку: дорогие решения эскалируются человеку — это отдельное состояние узла, а не строчка в логе. Автоматизируем рутину, эскалируем дорогое.
• Экономика: контекст-бюджет и кэширование дают предсказуемую стоимость прогона (~87% попаданий кэша), а не «как пойдёт».
• Независимость: четыре провайдера одновременно, смена модели — строка конфига, модель фиксируется на прогон, чтобы вчерашний результат воспроизводился завтра.
• Что доверять ИИ нельзя — честный список задач, где мы откатились назад.