ИИ-агент привёл к блокировке аккаунта пользователя в Resy
An AI Agent Got Its User Banned From Resy — Keycard, JPMorgan Chase & AAuth
Allie Howe, Ian Livingstone и ещё 2 спикераВсе 4Свернуть
Агентам нужна авторизация на каждый вызов инструмента с учётом намерения, потому что широкие OAuth scopes слишком грубы для задач, которые меняются по ходу работы.
- Миссия вместо широкого доступа — цель, которую задал пользователь или организация, получает идентификатор, и все решения агента привязываются к нему, поэтому аудит идёт по одной миссии. По словам Michael Davis, отслеживание миссий в крупных компаниях пока только начинается.
- Бюджеты вместо rate limit — токен ограничен по времени и по объёму ресурса, а агент получает обратную связь о том, сколько уже потратил. Dick Hardt предлагает такой подход после случая, когда агент из Instinct слишком активно обращался к Resy и аккаунт пользователя заблокировали.
- Надзор и граница вне песочницы — один агент выполняет работу, другой решает, что ей разрешено. Авторизация стоит на egress proxy за пределами песочницы, где у агента нет API-ключей, а Michael Davis предлагает динамически убирать инструменты, чтобы блокировать опасные сочетания.
- Аудит вне досягаемости агента — журнал, который агент не может изменить, помогает понять, кто и зачем дал команду. В итоге ответственность лежит на человеке или организации, которые наняли агента.
Кому полезно: тем, кто выдаёт агентам доступ к внешним API и инструментам в продакшене.
Статья по теме
Главы
Ещё доклады: Allie Howe
Страница спикера →Большой спор о циклах
Dex Horthy, Allie Howe, Greg Pstrucha, Ian Livingstone, Geoffrey Huntley
AI Engineer World's Fair 2026
Как создавать надёжный ИИ
AI Engineer World's Fair 2025
Похожие доклады
Как обеспечить безопасность agents с помощью OAuth
AI Engineer World's Fair 2025
Близко по содержанию
Раскрываем автономность агентов: runtime для AI-native систем
AI Engineer World's Fair 2026
Близко по содержанию
ИИ-агенты не читают ваши документы с правилами. Они обращаются к вашим API
AI Engineer World's Fair 2026
Близко по содержанию
Протокол аутентификации для AI agents
AI Engineer World's Fair 2026
Близко по содержанию




