← Каталог

· AI Engineer World's Fair 2025

Эффективные паттерны проектирования agents в production

Effective agent design patterns in production

Агенты оправданы там, где LLM сжимает большой объём неструктурированного текста в структурированные решения для существующего софта.

  • Интеграция важнее чат-бота — LLM хорошо сворачивает контракты, счета и регламенты в короткий результат, а расширять короткий промпт в большой текст у неё получается плохо, поэтому, по мысли спикера, встраивание в софт даёт больше сценариев, чем чат-интерфейс.
  • Агент поверх RAG — наивный top-K RAG уступает агенту, который может разбить сложный вопрос на простые, перепроверить извлечённые данные и переспросить; по словам спикера, это заметно повышает точность.
  • Параллельные ветки — одна ветка обрабатывает запрос, другая проверяет его допустимость; голосование нескольких моделей или прогонов, по словам спикера, снижает галлюцинации, потому что модели ошибаются по-разному.
  • Декомпозиция и самопроверка — сложный вопрос делится на подвопросы, которые решаются параллельно, а цикл evaluator-optimizer возвращает ответ на доработку; так устроен deep research, и в докладе показан туториал по его реализации.

Кому полезно: тем, кто строит агентов поверх документов в PDF и Word. Доклад во многом презентация LlamaIndex, но паттерны применимы и в других фреймворках.

Статья по теме

Главы

Ещё доклады: Laurie Voss

Все 7 докладов →

Похожие доклады