· AI Engineer World's Fair 2026
Основы AI-безопасности для инженеров + сертификат
AI Security Engineer Foundations + Certificate — Javier Garza, Snyk
Безопасность агентов и LLM-приложений держится на инвентаризации AI-компонентов, минимальных правах агента и проверке MCP-серверов и skills до установки.
- Read-only представление вместо доступа ко всей базе — агент видит только разрешённые поля, поэтому не может ни вытащить лишнее, ни изменить данные, даже если его обманет prompt injection.
- AI-BOM как инвентарь — список моделей, датасетов, агентов и MCP-серверов из репозитория помогает быстро найти приложения, затронутые новой уязвимостью. Состав меняется часто, поэтому спикер советует сканировать такие инвентари хотя бы ежедневно.
- Slopsquatting — модели выдумывают имена пакетов, злоумышленники регистрируют эти имена в реестре, и следующий разработчик, получивший ту же выдумку, ставит вредоносный пакет.
- Скан, фикс и повторный скан — правила и хуки в IDE запускают проверку кода после каждой генерации и повторяют цикл, пока уязвимости не исчезнут. Для MCP-серверов отдельно проверяют tool poisoning и скрытые инструкции, а также command injection и path traversal в коде.
Кому полезно: тем, кто подключает MCP-серверы и skills к агентным IDE и хочет готовый набор проверок. Большая часть демо построена на бесплатных инструментах Snyk, так что часть доклада продуктовая.
Статья по теме
Главы
Похожие доклады
Основы безопасности ИИ для инженеров + сертификат
AI Engineer World's Fair 2026
Близко по содержанию
Мы разрешили AI-агенту выполнять команды Bash — и выжили, чтобы об этом рассказать
Близко по содержанию
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию
Защита LLM: безопасность, конфиденциальность, соответствие требованиям и борьба с галлюцинациями
AI Engineer World's Fair 2024
Близко по содержанию

