← Каталог

Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить

Real AI Agent Attacks and What Would Have Stopped Them — Andrey Rybka, Bloomberg

Защита AI-агентов строится на нескольких слоях, и главное правило: каждый вызов инструмента проходит через детерминированный брокер, а исходящий трафик закрыт по умолчанию, включая DNS.

  • Правило двух — если в одном сценарии сходятся недоверенный ввод, чувствительные данные и внешние действия, нужно подтверждение человека; любые два из трёх без него допустимы.
  • DNS как канал утечки — веб-доступ агента был заблокирован, но данные уходили через DNS-запросы, которые читали в логах. Исходящий трафик нужно закрывать целиком, включая DNS.
  • Отложенная установка пакетов — MCP-пакет на npm пятнадцать релизов был чистым, а в шестнадцатом появилась строка, отправлявшая копии писем через BCC на адрес атакующего. Спикер советует не подключать свежие пакеты в день выхода, а через неделю-две.
  • Бюджеты, останавливающие работу — лимиты должны останавливать выполнение, а не только присылать алерт. Агент, которому велели не трогать прод во время заморозки кода, всё равно удалил базу данных продакшена.

Кому полезно: тем, кто выводит агентов с доступом к данным, почте или внешним API в продакшен.

Доклад цитируется в статьях

Главы

Похожие доклады