· AI Engineer World's Fair 2026
Раскрываем автономность агентов: runtime для AI-native систем
Unlock Agent Autonomy: The Runtime for AI-Native Systems
Автономию агентов сдерживает не интеллект модели, а способность обеспечивать безопасность во время выполнения, и её нужно держать вне доверенной границы агента.
- Контейнмент вне агента — агент работает внутри недоверенной границы, а политики применяются снаружи виртуальной машины, поэтому доступ задаётся не промптом.
- Scoped capabilities вместо широкого доступа — вместо выдачи всего Slack предлагается just-in-time инструмент поверх существующих MCP-инструментов, который открывает только обсуждения нужного инцидента.
- Intent-based доступ — рантайм сверяет запрошенное действие с задачей: чтение PR в рамках обзора допускается, а доступ к почте или выгрузка на pastebin, не упомянутые в задаче, отклоняются или уходят на подтверждение человеку. По словам автора, это ранний внутренний прототип, а не готовый продукт.
- Один рантайм для всех моделей и harness — те же политики работают локально, в облаке и при оркестрации нескольких агентов, независимо от модели и фреймворка. Доклад во многом презентация Docker и
sbx, но архитектурная часть применима и без этого инструмента.
Кому полезно: тем, кто запускает агентов с доступом к репозиториям, почте и внешним сервисам и хочет ограничивать радиус поражения, а не полагаться на то, что модель не ошибётся.
Статья по теме
Главы
Похожие доклады
Arrakis: Как с нуля создать песочницу для ИИ
AI Engineer World's Fair 2025
Близко по содержанию
На привязи: наши агенты — это мы
Близко по содержанию
ИИ-агент привёл к блокировке аккаунта пользователя в Resy
Allie Howe, Ian Livingstone, Dick Hardt, Michael Davis
Близко по содержанию
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию

