Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Real AI Agent Attacks and What Would Have Stopped Them — Andrey Rybka, Bloomberg
Защита AI-агентов строится на нескольких слоях, и главное правило: каждый вызов инструмента проходит через детерминированный брокер, а исходящий трафик закрыт по умолчанию, включая DNS.
- Правило двух — если в одном сценарии сходятся недоверенный ввод, чувствительные данные и внешние действия, нужно подтверждение человека; любые два из трёх без него допустимы.
- DNS как канал утечки — веб-доступ агента был заблокирован, но данные уходили через DNS-запросы, которые читали в логах. Исходящий трафик нужно закрывать целиком, включая DNS.
- Отложенная установка пакетов — MCP-пакет на npm пятнадцать релизов был чистым, а в шестнадцатом появилась строка, отправлявшая копии писем через BCC на адрес атакующего. Спикер советует не подключать свежие пакеты в день выхода, а через неделю-две.
- Бюджеты, останавливающие работу — лимиты должны останавливать выполнение, а не только присылать алерт. Агент, которому велели не трогать прод во время заморозки кода, всё равно удалил базу данных продакшена.
Кому полезно: тем, кто выводит агентов с доступом к данным, почте или внешним API в продакшен.
Доклад цитируется в статьях
Главы
Похожие доклады
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию
У следующего триллиона интернет-пользователей всё ещё нет цифровой идентичности
AI Engineer World's Fair 2026
Близко по содержанию
Зачем AI-агентам нужна собственная песочница
AI Engineer World's Fair 2026
Близко по содержанию
ИИ-агент привёл к блокировке аккаунта пользователя в Resy
Allie Howe, Ian Livingstone, Dick Hardt, Michael Davis
Близко по содержанию

