← Каталог

· AI Engineer World's Fair 2026

Файрвол для защиты agents

Security Firewall for Agents

Агенты с доступом к продакшену нельзя защищать изнутри: нужен внешний firewall, который разбирает сетевой трафик агента и применяет правила.

  • Выравнивание не защищает от prompt injection — агенты для инцидентов в Deno Deploy имеют права на запись в Postgres, Kubernetes, AWS и GitHub, а входящие обращения в поддержку могут подтолкнуть даже хорошо выровненную модель к деструктивным действиям. По словам спикера, полагаться на отказы модели нельзя.
  • MCP не видит subprocess — psql, запущенный агентом, туннелирует Postgres-трафик через EKS endpoint и обходит контроли на уровне MCP, поэтому правила применяются к байтам протокола.
  • Правила в HCL под Git — open source прокси Claw Patrol (MIT) хранит политики доступа в конфиге примерно на 1000 строк, тестирует их тестовыми запросами, а рискованные действия отправляет на подтверждение в Slack или на проверку LLM-судьёй.
  • Креды вне агента — прокси подставляет учётные данные для Postgres, ClickHouse, OAuth и AWS SigV4, поэтому агент секретов не видит, а сам агент остаётся без изменений.

Кому полезно: тем, кто выдаёт агентам доступ к продакшен-базам и инфраструктуре и хочет контролировать их действия снаружи.

Статья по теме

Главы

Похожие доклады