· AI Engineer World's Fair 2026
Безопасность AI-агентов: разрешения, происхождение и цепочка поставок
Agentic Security: Permissions, Provenance, and the Agent Supply Chain
Ускорение AI-кодинга растит поверхность атак пропорционально скорости, поэтому проверки безопасности нужно отдавать агентам отдельным проходом.
- Подмена галлюцинированных пакетов — модели выдумывают имена зависимостей, злоумышленники регистрируют эти имена с бэкдором (slopsquatting), а тесты при этом проходят.
- Дефекты безопасности не теряют срочность — со временем они не перестают быть опасными, поэтому их нужно показывать в момент написания кода, как в практике Google с TAP, а не на код-ревью.
- Отдельный проход по безопасности — модели плохо решают две задачи сразу, поэтому спикер советует запускать проверку безопасности отдельным шагом и заставлять агентов проверять работу друг друга. По словам спикера, на его личном проекте сканер нашёл 241 уязвимость, которую модель после своей проверки не искала.
- Права агентов в фоне — для агентов, которые работают круглосуточно, спикер советует выдавать учётные данные только на нужные действия и ставить агентов-супервизоров, которые следят за очередью.
Кому полезно: тем, кто запускает агентов с доступом к учётным данным или сервисным аккаунтам.
Статья по теме
Главы
Ещё доклады: Steve Yegge
Страница спикера →2026: год, когда IDE умерла
AI Engineer Code 2025
Похожие доклады
Раскрываем автономность агентов: runtime для AI-native систем
AI Engineer World's Fair 2026
Близко по содержанию
Защита систем машинного обучения
AI Engineer World's Fair 2024
Близко по содержанию
Как мы взломали AI-агентов весеннего батча YC 2025
AI Engineer World's Fair 2025
Близко по содержанию
Смертельная триада уже на ваших ноутбуках
Близко по содержанию

