← Каталог

· AI Engineer World's Fair 2026

Безопасность AI-агентов: разрешения, происхождение и цепочка поставок

Agentic Security: Permissions, Provenance, and the Agent Supply Chain

Ускорение AI-кодинга растит поверхность атак пропорционально скорости, поэтому проверки безопасности нужно отдавать агентам отдельным проходом.

  • Подмена галлюцинированных пакетов — модели выдумывают имена зависимостей, злоумышленники регистрируют эти имена с бэкдором (slopsquatting), а тесты при этом проходят.
  • Дефекты безопасности не теряют срочность — со временем они не перестают быть опасными, поэтому их нужно показывать в момент написания кода, как в практике Google с TAP, а не на код-ревью.
  • Отдельный проход по безопасности — модели плохо решают две задачи сразу, поэтому спикер советует запускать проверку безопасности отдельным шагом и заставлять агентов проверять работу друг друга. По словам спикера, на его личном проекте сканер нашёл 241 уязвимость, которую модель после своей проверки не искала.
  • Права агентов в фоне — для агентов, которые работают круглосуточно, спикер советует выдавать учётные данные только на нужные действия и ставить агентов-супервизоров, которые следят за очередью.

Кому полезно: тем, кто запускает агентов с доступом к учётным данным или сервисным аккаунтам.

Статья по теме

Главы

Ещё доклады: Steve Yegge

Страница спикера →

Похожие доклады