← Каталог

· AI Engineer World's Fair 2026

Основы безопасности ИИ для инженеров + сертификат

AI Security Engineer Foundations + Certificate — Micah Silverman, Snyk

Промпт не заменяет контроль доступа: модели нужно давать только разрешённые данные, учётные данные и инструменты, а не просить её что-то скрывать.

  • Ограничение данных на уровне базы — для чат-бота со студенческими данными спикер предлагает представление БД без оценок, а не инструкцию в system prompt не раскрывать их.
  • AI BOM в CI — инвентарь моделей, датасетов и MCP-серверов сравнивается с базовой линией при каждом коммите, и расхождение валит сборку. Сама проверка в докладе описана, но на демо не запускалась.
  • Одобренная альтернатива вместо запрета — по словам спикера, неавторизованное использование AI-инструментов упало примерно на 89%, когда взамен предложили разрешённый аналог.
  • Два разных класса проблем в MCP — вредоносные описания инструментов (tool poisoning) ищутся отдельно от уязвимостей в коде серверов. Пример: инъекция shell-команд в Framelink, где URL подставлялся в curl-команду без экранирования.

Кому полезно: тем, кто выводит агентов с доступом к базам и MCP-серверам и хочет управлять shadow AI через инвентарь, а не запреты.

Статья по теме

Главы

Похожие доклады