Стачка - Архитектура агентских систем: пять решений до продакшена

Архитектура агентских систем: пять решений до продакшена

4 октября

11.00-11.30

Green 5. ML & AI & Безопасность

- Агент нужен не всегда. Если маршрут известен заранее, достаточно workflow или ограниченного router-а; agent loop оправдан, когда правила выбора следующего шага становятся дорогими и хрупкими.

- Автономия LLM должна быть ограниченной. Модель выбирает следующий шаг внутри заданного пространства, а код владеет правами, бюджетами, допустимыми переходами и условием остановки.

- Граф нужен, когда важны состояние, ветвление, пауза, восстановление и разбор пути выполнения; это способ управления, а не показатель «зрелости» агента. Multi-agent система оправдана только разделением по подзадачам, контекстам, правам или набору возможностей с явными правилами передачи задач и завершения работы.

- Tool call не равен внешнему действию. Policy разрешает действие, а executor обеспечивает изоляцию, timeout, audit и защиту от повторного эффекта.

- Human-in-the-loop и безопасный fallback нужно проектировать заранее. Перед действием с последствиями или при нехватке данных система сохраняет checkpoint, запрашивает решение человека либо безопасно отказывается от продолжения.

- State, context и memory — разные подсистемы. Контекст должен быть минимальной проекцией state и наблюдений, а долговременная память — хранить отобранные записи с указанием источника и срока действия.

- Retrieval и RAG входят в архитектуру агента. Найденные кандидаты, результат reranking и фрагменты, попавшие в контекст модели, — разные артефакты; потерянное на первом этапе evidence нельзя восстановить последующей обработкой.

- Structured output не гарантирует правильность решения. Evaluation должен включать кейсы с зафиксированной версией, challenge/replay реальных сбоев и совместный контроль качества, критических ошибок, latency, стоимости и доли ручной проверки.

Может заинтересовать

#похожие доклады

16.20-16.50

Как внедрить AI-агента в инженерные процессы: практика, боль и честная экономика