← Каталог

· AI Engineer World's Fair 2026

Постройте платформу — и наблюдайте, как она горит

Build a Platform and Watch It Burn — Michael Forrester, Accenture & Whitney Lee, Datadog

Границы агента должны держаться на инфраструктуре, а не на отказе модели: в воркшопе Kyverno блокировал внешний образ, тогда как модель отказывала непоследовательно.

  • Отказы модели не повторяются — одна и та же просьба то проходила, то нет, а название ресурса влияло на результат: с именем Joker модель сомневалась, а с promo-mascot и маркетинговой историей деплой выполнила.
  • Input-фильтр до модели — блокировка запроса через LLM Guard не тратит токены, а output-фильтр редактирует ответ уже после обработки моделью и оплачивается. По словам авторов, перед классификатором стоит добавить regex для типовых шаблонов.
  • Kyverno против runtime-защиты — Kyverno отклонил деплой образа из внешнего реестра на уровне admission, а запланированная runtime-защита не помешала доступу к рецепту. Поэтому авторы разбирают детекцию и реакцию как отдельный слой, а не как предотвращение.
  • Prompt injection через описание инструмента — погодный MCP-инструмент в описании требовал вызвать чтение внутреннего конфига, и трассировка показала этот вызов. Авторы советуют брать MCP-серверы через реестр или шлюз, а не из публичных каталогов.

Кому полезно: тем, кто выводит агентов с доступом к кластеру Kubernetes и хочет проверить их границы на практике.

Статья по теме

Главы

Похожие доклады