← Каталог

· AI Engineer World's Fair 2026

Дайте агенту бюджет, а не токен

Give the Agent a Budget, Not a Token — Sachin Malhotra, Anthropic

Агенту в продакшене нужен бюджет действий, а не статичный токен: лимиты с пополнением, ловушки на агрегаты и идентичность, которую выдаёт инфраструктура.

  • Асимметричные действия — оценивайте, как действие ломается: если ошибка сразу видна (снятие skip ломает сборки), агенту можно его отдать; если ошибка тихая (пропуск теста, из-за которого баг уходит в прод), решение оставляйте человеку.
  • Лимиты с пополнением — после инцидента, когда агент из-за сбоя фильтра удалил около 200 рабочих нагрузок, команда ввела вебхук с лимитом удалений в час на тип ресурса и namespace. Внутри лимита агент работает без подтверждений, превышение требует человека.
  • Ловушки вместо списков разрешений — счётчик веток расследования в час на упавший тест показал, что десятки отдельных падений были одной инфраструктурной проблемой; исправление свелось к одной-двум строкам в контексте агента.
  • Идентичность от прокси — прокси рядом с каждой сессией сам ставит метку агента на каждый вызов, и агент не может сменить её заголовком. Текстовые инструкции задают намерение, а ограничивает ущерб инфраструктура.

Кому полезно: тем, кто выдаёт агентам доступ к инфраструктуре или деплою в продакшен.

Доклад цитируется в статьях

Главы

Похожие доклады