← Каталог

ИИ-агент привёл к блокировке аккаунта пользователя в Resy

An AI Agent Got Its User Banned From Resy — Keycard, JPMorgan Chase & AAuth

Allie Howe, Ian Livingstone и ещё 2 спикераВсе 4Свернуть

Агентам нужна авторизация на каждый вызов инструмента с учётом намерения, потому что широкие OAuth scopes слишком грубы для задач, которые меняются по ходу работы.

  • Миссия вместо широкого доступа — цель, которую задал пользователь или организация, получает идентификатор, и все решения агента привязываются к нему, поэтому аудит идёт по одной миссии. По словам Michael Davis, отслеживание миссий в крупных компаниях пока только начинается.
  • Бюджеты вместо rate limit — токен ограничен по времени и по объёму ресурса, а агент получает обратную связь о том, сколько уже потратил. Dick Hardt предлагает такой подход после случая, когда агент из Instinct слишком активно обращался к Resy и аккаунт пользователя заблокировали.
  • Надзор и граница вне песочницы — один агент выполняет работу, другой решает, что ей разрешено. Авторизация стоит на egress proxy за пределами песочницы, где у агента нет API-ключей, а Michael Davis предлагает динамически убирать инструменты, чтобы блокировать опасные сочетания.
  • Аудит вне досягаемости агента — журнал, который агент не может изменить, помогает понять, кто и зачем дал команду. В итоге ответственность лежит на человеке или организации, которые наняли агента.

Кому полезно: тем, кто выдаёт агентам доступ к внешним API и инструментам в продакшене.

Статья по теме

Главы

Ещё доклады: Allie Howe

Страница спикера →

Похожие доклады