· AI Engineer World's Fair 2026
Постройте платформу — и наблюдайте, как она горит
Build a Platform and Watch It Burn — Michael Forrester, Accenture & Whitney Lee, Datadog
Границы агента должны держаться на инфраструктуре, а не на отказе модели: в воркшопе Kyverno блокировал внешний образ, тогда как модель отказывала непоследовательно.
- Отказы модели не повторяются — одна и та же просьба то проходила, то нет, а название ресурса влияло на результат: с именем
Jokerмодель сомневалась, а сpromo-mascotи маркетинговой историей деплой выполнила. - Input-фильтр до модели — блокировка запроса через LLM Guard не тратит токены, а output-фильтр редактирует ответ уже после обработки моделью и оплачивается. По словам авторов, перед классификатором стоит добавить regex для типовых шаблонов.
- Kyverno против runtime-защиты — Kyverno отклонил деплой образа из внешнего реестра на уровне admission, а запланированная runtime-защита не помешала доступу к рецепту. Поэтому авторы разбирают детекцию и реакцию как отдельный слой, а не как предотвращение.
- Prompt injection через описание инструмента — погодный MCP-инструмент в описании требовал вызвать чтение внутреннего конфига, и трассировка показала этот вызов. Авторы советуют брать MCP-серверы через реестр или шлюз, а не из публичных каталогов.
Кому полезно: тем, кто выводит агентов с доступом к кластеру Kubernetes и хочет проверить их границы на практике.
Статья по теме
Главы
Похожие доклады
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию
Продвинутый практикум по наблюдаемости AI
AI Engineer World's Fair 2026
Близко по содержанию
Основы AI-безопасности для инженеров + сертификат
AI Engineer World's Fair 2026
Близко по содержанию
Ваш агент — смертоносная триада (и что с этим делать)
AI Engineer NYC 2026 Online Talks
Близко по содержанию


