· AI Engineer World's Fair 2026
Мы дали агенту доступ к production-коду и попытались спать спокойно
We Gave an Agent Production Code Access and Then Tried to Sleep at Night
Агент с продакшен-доступом становится актором цепочки поставок, поэтому его радиус поражения задаёт архитектура, а не промпт.
- Детерминированный код отвечает за права — Go-приложение находит уязвимые образы, связывает их с репозиториями, коммитит, открывает pull request и следит за CI. Агент только правит файлы и не получает прав на push и запуск CI.
- Минимальные правки и лимит попыток — агент обновляет только версии, нужные для закрытия CVE, и чинит CI, не откатывая свои прошлые изменения. После лимита попыток задача передаётся человеку.
- Docker socket внутри microVM — по словам автора, Firecracker microVM со своим ядром удерживает агента, который собирает образы через Docker socket, а сетевой трафик фильтруется на хосте по именам, портам и CIDR.
- Prompt injection нельзя закрыть полностью — команда ограничивает ущерб: помечает недоверенные каталоги вроде vendor и логи CI и проверяет устойчивость evals на специально созданном репозитории. Один PR на 70 тысяч строк показывает, насколько широка поверхность атаки.
Кому полезно: тем, кто выпускает агентов с правами на репозитории и CI в продакшен и выбирает, что оставить детерминированным.
Статья по теме
Главы
Похожие доклады
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию
Software factory: от баг-репорта до кода в продакшене
AI Engineer World's Fair 2026
Близко по содержанию
Ваш ИИ — не проблема. Проблема — ваша инфраструктура.
AI Engineer NYC 2026 Online Talks
Близко по содержанию
1 000 задач для агента в песочнице: что ломается, когда LLM запускают код
AI Engineer World's Fair 2026
Близко по содержанию

