← Каталог

Agents, которые создают собственные инструменты во время работы

Agents That Write Their Own Tools at Runtime — Sandhya Subramani, AWS

Агент, которому дали только редактор файлов, shell и загрузчик инструментов, может по словам спикера писать себе новые инструменты и агентов прямо во время работы, без перезапуска.

  • Минимальный набор для meta-tooling — три инструмента (editor, shell, load_tool) и системный промпт с шаблоном инструмента и правилом сначала проверять уже существующие. По словам спикера, этого достаточно, чтобы агент сам создавал calculator и счётчик символов и сразу вызывал их.
  • Самовосстановление после ошибок — спикер утверждает, что агент, который падает с ошибкой, распознаёт сбой и переписывает тот же инструмент или субагента. Это показано на демо лишь частично, поэтому считать это доказанным не стоит.
  • Паттерны мультиагентности — swarm для параллельных субагентов, graph для передачи результата от одного к другому, handoff и workflow как комбинация. В демо планировщик поездки сам создал субагентов для рейсов, активностей и маршрута, но без инструмента с внешним API не мог получать актуальные данные о погоде.
  • Ограничения для самоизменяющегося кода — спикер рекомендует песочницу для выполнения сгенерированного кода, ограничение инструментов и прав доступа и телеметрию, потому что агент может изменять и удалять данные. Оценки по восьми категориям, включая выбор инструмента и порядок вызовов, он тоже называет обязательной частью.

Кому полезно: тем, кто хочет, чтобы агенты в продакшене расширяли свои возможности без перевыкладки, и тем, кто будет проверять такие системы через evals и песочницу.

Статья по теме

Главы

Ещё доклады: Sandhya Subramani

Страница спикера →

Похожие доклады