← Каталог

· AI Engineer World's Fair 2026

Как сократить галлюцинации AI-агентов: 5 приёмов и практики для production

Stop AI Agent Hallucinations: 5 Techniques + Production Patterns - Elizabeth Fuentes Leone, AWS

Галлюцинации агентов уменьшают правками кода, а не промптом: фильтрацией инструментов, запросами к графу, проверкой вторым агентом и правилами на Python.

  • Отбор инструментов по эмбеддингам — в контекст попадают только три наиболее релевантных инструмента из 29, и, по словам спикера, расход токенов на вызов падает с тысяч до менее трёхсот. Описания всех инструментов без фильтра занимают около трёх тысяч токенов.
  • GraphRAG для подсчётов и связей — средние значения, количества и многошаговые вопросы решаются Cypher-запросом к Neo4j по всему графу. Обычный RAG считает по нескольким найденным фрагментам и выдаёт оценку за факт.
  • Правила в коде, а не в промпте — hooks в Strands блокируют вызов инструмента до его выполнения, например бронирование больше десяти гостей или подтверждение без оплаты. Для мягких ограничений Agent Control SDK корректирует действие: бронирование на 15 гостей разбилось на два номера, и задача была выполнена.
  • Проверка результата вторым агентом — цепочка из исполнителя, валидатора и критика через Swarm не даёт ответу с ошибкой инструмента пройти как успешному.

Кому полезно: тем, кто строит агентов с большим числом инструментов или базой знаний и видит ошибки, которые промпт не исправляет.

Статья по теме

Главы

Ещё доклады: Elizabeth Fuentes Leone

Страница спикера →

Похожие доклады