← Каталог

· AI Engineer World's Fair 2026

Мы дали агенту доступ к production-коду и попытались спать спокойно

We Gave an Agent Production Code Access and Then Tried to Sleep at Night

Агент с продакшен-доступом становится актором цепочки поставок, поэтому его радиус поражения задаёт архитектура, а не промпт.

  • Детерминированный код отвечает за права — Go-приложение находит уязвимые образы, связывает их с репозиториями, коммитит, открывает pull request и следит за CI. Агент только правит файлы и не получает прав на push и запуск CI.
  • Минимальные правки и лимит попыток — агент обновляет только версии, нужные для закрытия CVE, и чинит CI, не откатывая свои прошлые изменения. После лимита попыток задача передаётся человеку.
  • Docker socket внутри microVM — по словам автора, Firecracker microVM со своим ядром удерживает агента, который собирает образы через Docker socket, а сетевой трафик фильтруется на хосте по именам, портам и CIDR.
  • Prompt injection нельзя закрыть полностью — команда ограничивает ущерб: помечает недоверенные каталоги вроде vendor и логи CI и проверяет устойчивость evals на специально созданном репозитории. Один PR на 70 тысяч строк показывает, насколько широка поверхность атаки.

Кому полезно: тем, кто выпускает агентов с правами на репозитории и CI в продакшен и выбирает, что оставить детерминированным.

Статья по теме

Главы

Похожие доклады