← Каталог

Не давайте агенту инструменты — дайте ему песочницу

Stop Giving Your Agent Tools. Give It a Sandbox - Mikyo King, Arize AI

Агенту стоит давать песочницу с кодом вместо каталога инструментов: по словам авторов из Arize, так снижаются токены и стоимость без роста задержки.

  • Код вместо каталога инструментов — агент находит нужные инструменты, вызывает их последовательно или параллельно в одном фрагменте кода и возвращает в контекст только результат. В эксперименте, по словам спикера, расход токенов упал на 43%, стоимость на 31%, а задержка почти не изменилась.
  • Агент создаёт недостающие инструменты — например, удалить персональные данные из записей можно кодом, а не держать под это отдельный инструмент. Без песочницы такие данные, включая номера карт, попали бы в контекст модели.
  • Цена подхода — сетевой egress, хранение секретов, слишком широкие права, сбои запуска песочницы, отладка сгенерированного кода и двойная песочница при связке MCP и harness.
  • Оценка на Harbor — прогоны с отключённой сетью, несколько повторов на задачу, бинарные верификаторы и отслеживание pass@k, что помогает отсекать нестабильные результаты.

Кому полезно: тем, кто строит агентов с большим числом инструментов, длинными цепочками вызовов и считает стоимость контекста.

Статья по теме

Главы

Похожие доклады