← Каталог

· AI Engineer World's Fair 2024

Создание надёжных агентных систем

Building Reliable Agentic Systems

Надёжность агентов для разработки, по словам авторов Factory, держится на явных критериях плана, симуляции решений и собственных интерфейсах к инструментам.

  • Явные критерии плана — жёстко заданная логика и примеры успешных начальных состояний снижают число ошибок, но такие правила сложно масштабировать. Спикер советует применять их там, где задачу нужно решить в ближайшие месяцы.
  • Симуляция путей решения — агент сэмплирует несколько вариантов, прогоняет их реальным и воображаемым выполнением кода и выбирает лучший через Language Agent Tree Search.
  • Собственные интерфейсы к инструментам — повторяющуюся цепочку вызовов выгоднее завернуть в отдельный инструмент, а логи CI перед передачей модели сжимать до упавших тестов и краткого пояснения.
  • Баланс автономии и контроля — по словам спикера, продуманный UX взаимодействия с человеком поднимает надёжность с 30–40% до 90–100%.

Кому полезно: тем, кто строит агентов для кодинга и ревью кода и решает, где задать правила вручную, а где дать модели свободу.

Статья по теме

Главы

Ещё доклады: Eno Reyes

Страница спикера →

Похожие доклады