· AI Engineer World's Fair 2026
Как сократить галлюцинации AI-агентов: 5 приёмов и практики для production
Stop AI Agent Hallucinations: 5 Techniques + Production Patterns - Elizabeth Fuentes Leone, AWS
Галлюцинации агентов уменьшают правками кода, а не промптом: фильтрацией инструментов, запросами к графу, проверкой вторым агентом и правилами на Python.
- Отбор инструментов по эмбеддингам — в контекст попадают только три наиболее релевантных инструмента из 29, и, по словам спикера, расход токенов на вызов падает с тысяч до менее трёхсот. Описания всех инструментов без фильтра занимают около трёх тысяч токенов.
- GraphRAG для подсчётов и связей — средние значения, количества и многошаговые вопросы решаются Cypher-запросом к Neo4j по всему графу. Обычный RAG считает по нескольким найденным фрагментам и выдаёт оценку за факт.
- Правила в коде, а не в промпте — hooks в Strands блокируют вызов инструмента до его выполнения, например бронирование больше десяти гостей или подтверждение без оплаты. Для мягких ограничений Agent Control SDK корректирует действие: бронирование на 15 гостей разбилось на два номера, и задача была выполнена.
- Проверка результата вторым агентом — цепочка из исполнителя, валидатора и критика через
Swarmне даёт ответу с ошибкой инструмента пройти как успешному.
Кому полезно: тем, кто строит агентов с большим числом инструментов или базой знаний и видит ошибки, которые промпт не исправляет.
Статья по теме
Главы
Ещё доклады: Elizabeth Fuentes Leone
Страница спикера →Почему большие контекстные окна не спасут вашего агента
AI Engineer World's Fair 2026
Скоростной забег по созданию AI-агента
Elizabeth Fuentes Leone, Sandhya Subramani
AI Engineer World's Fair 2026
Похожие доклады
Эффективные паттерны проектирования agents в production
AI Engineer World's Fair 2025
Близко по содержанию
Создание agents в облачном масштабе
AI Engineer World's Fair 2025
Близко по содержанию
Agents, которые создают собственные инструменты во время работы
Близко по содержанию

