· AI Engineer World's Fair 2026
Основы безопасности ИИ для инженеров + сертификат
AI Security Engineer Foundations + Certificate — Micah Silverman, Snyk
Промпт не заменяет контроль доступа: модели нужно давать только разрешённые данные, учётные данные и инструменты, а не просить её что-то скрывать.
- Ограничение данных на уровне базы — для чат-бота со студенческими данными спикер предлагает представление БД без оценок, а не инструкцию в system prompt не раскрывать их.
- AI BOM в CI — инвентарь моделей, датасетов и MCP-серверов сравнивается с базовой линией при каждом коммите, и расхождение валит сборку. Сама проверка в докладе описана, но на демо не запускалась.
- Одобренная альтернатива вместо запрета — по словам спикера, неавторизованное использование AI-инструментов упало примерно на 89%, когда взамен предложили разрешённый аналог.
- Два разных класса проблем в MCP — вредоносные описания инструментов (tool poisoning) ищутся отдельно от уязвимостей в коде серверов. Пример: инъекция shell-команд в Framelink, где URL подставлялся в curl-команду без экранирования.
Кому полезно: тем, кто выводит агентов с доступом к базам и MCP-серверам и хочет управлять shadow AI через инвентарь, а не запреты.
Статья по теме
Главы
Похожие доклады
Основы AI-безопасности для инженеров + сертификат
AI Engineer World's Fair 2026
Близко по содержанию
Ваш ИИ — не проблема. Проблема — ваша инфраструктура.
AI Engineer NYC 2026 Online Talks
Близко по содержанию
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию
Постройте платформу — и наблюдайте, как она горит
Michael Forrester, Whitney Lee
AI Engineer World's Fair 2026
Близко по содержанию

