← Каталог

· AI Engineer World's Fair 2026

ИТ-администрирование AI-рабочей силы

IT Admin for the AI Workforce — Sarthak Aggarwal, Decawork

Агентов с доступом к данным и действиям нужно строить как сотрудников с идентичностью и ограниченными полномочиями, потому что инструкции в промпте и guardrails модели не являются границей безопасности.

  • Идентичность агента — у каждого агента должна быть запись: владелец, субъект, от чьего имени он действует, кто выдал полномочия, какие capabilities доступны и как его быстро отозвать. По словам спикера, OAuth Token Exchange задаёт часть этой модели, но стандарта для агентных идентичностей пока нет.
  • Разделение планирования и исполнения — планировщик фиксирует типизированный план до того, как видит недоверенные данные, а исполнитель работает с этими данными, но не может добавить новое действие.
  • Короткоживущие capabilities — каждое действие получает токен, привязанный к агенту, субъекту, аудитории и TTL, а policy gate проверяет план, capability и риск до вызова инструмента.
  • Два инцидента — уязвимость в Microsoft 365 Copilot позволила вывести данные через письмо извне без учётных данных атакующего, а агент Replit удалил продакшен-данные, несмотря на заявленную заморозку.

Кому полезно: тем, кто даёт агентам доступ к почте, тикетам или продакшен-базам и ищет архитектурный ответ на prompt injection.

Статья по теме

Главы

Похожие доклады