← Каталог

· AI Engineer World's Fair 2026

Основы AI-безопасности для инженеров + сертификат

AI Security Engineer Foundations + Certificate — Javier Garza, Snyk

Безопасность агентов и LLM-приложений держится на инвентаризации AI-компонентов, минимальных правах агента и проверке MCP-серверов и skills до установки.

  • Read-only представление вместо доступа ко всей базе — агент видит только разрешённые поля, поэтому не может ни вытащить лишнее, ни изменить данные, даже если его обманет prompt injection.
  • AI-BOM как инвентарь — список моделей, датасетов, агентов и MCP-серверов из репозитория помогает быстро найти приложения, затронутые новой уязвимостью. Состав меняется часто, поэтому спикер советует сканировать такие инвентари хотя бы ежедневно.
  • Slopsquatting — модели выдумывают имена пакетов, злоумышленники регистрируют эти имена в реестре, и следующий разработчик, получивший ту же выдумку, ставит вредоносный пакет.
  • Скан, фикс и повторный скан — правила и хуки в IDE запускают проверку кода после каждой генерации и повторяют цикл, пока уязвимости не исчезнут. Для MCP-серверов отдельно проверяют tool poisoning и скрытые инструкции, а также command injection и path traversal в коде.

Кому полезно: тем, кто подключает MCP-серверы и skills к агентным IDE и хочет готовый набор проверок. Большая часть демо построена на бесплатных инструментах Snyk, так что часть доклада продуктовая.

Статья по теме

Главы

Похожие доклады