Как валидный ключ позволил AI-агенту удалить production
A Valid Key Let an AI Agent Delete Production - Sagar Batchu, Speakeasy
Валидный ключ не значит валидное намерение, поэтому агентам нужен контрольный слой, который проверяет каждый вызов по идентичности и политике и пишет запись до выполнения.
- Собственная идентичность агента — агент действует от своего имени через корпоративный IdP, а не под логином разработчика; запись фиксирует оператора и того, кто выдал ключ. При уходе владельца из компании все запросы его агентов отклоняются.
- Права как пересечение — итог равен минимуму из потолка ключа, области агента и живой политики владельца, поэтому агент не получит больше, чем его владелец. Отозванное право перестаёт действовать на следующем запросе.
- Один шлюз и запись до действия — все вызовы агентов идут через одну точку, например MCP gateway, где решение разрешить, отклонить, изменить или передать человеку принимается и логируется. По словам спикера, запись отражает фактическое действие, а не отчёт агента.
- Секреты до модели — AWS-ключ в промпте ловится детектором до того, как модель его увидит; целевая задержка, по словам спикера, около 100 миллисекунд.
Кому полезно: тем, кто выводит агентов с доступом к продакшен-базам и API в регулируемой отрасли и должен отвечать на вопрос, кто и на каком основании совершил действие.
Статья по теме
На какие вопросы отвечает доклад
Как не дать агенту с валидным ключом сделать больше, чем разрешено владельцу?
Итоговое право равно пересечению трёх границ: потолка, заданного при выдаче ключа, области агента и живой политики владельца. Они проверяются на каждом вызове, поэтому агент с доступом только к staging не тронет production, даже если владелец может это сделать.
▶ 8:26Подключение, проверка, принятие решения, фиксацияКак понять, кто на самом деле выполнил действие AI-агента в продакшене?
У каждого агента есть собственная идентичность из IDP, а в журнале фиксируются оператор, который вёл агента, и человек, одобривший выдачу ключа. Если сотрудник уходит из компании, IDP отключает его, и запросы его агентов начинают отклоняться.
▶ 8:26Подключение, проверка, принятие решения, фиксацияКак не дать агенту отправить AWS-ключ в модель и зафиксировать такую попытку?
Хук в runtime харнесса перехватывает промпт до того, как его увидит модель. Детектор находит ключ по шаблону, политика блокирует или помещает запрос в карантин, а событие записывается в журнал; цель по времени решения — до 100 мс.
▶ 5:26Контрольный слой для агентовКак построить аудит действий AI-агентов, чтобы журнал отражал реальность, а не отчёт агента?
Все вызовы инструментов идут через один шлюз, например MCP gateway. Каждый вызов связывается с идентичностью, получает решение allow, deny, modify или escalate и записывается до выполнения действия.
▶ 8:26Подключение, проверка, принятие решения, фиксацияЧто делать, если политика останавливает агента, а команде нужно выполнить это действие?
Сначала нужно видеть все решения политики в журнале и иметь эскалацию на человека, который решает, пропускать ли действие. Если решение признано верным, политику можно обновить так, чтобы действие разрешалось.
▶ 16:36Вопросы и ответыКак контролировать персональные данные в работе агентов, не блокируя их работу целиком?
По словам спикера, в большинстве компаний через агентов проходит много PII, и полная блокировка остановит работу. Политики стоит строить по назначению данных: публикация в общий Slack, отправка по email или передача в другой инструмент.
▶ 16:36Вопросы и ответы
Главы
Похожие доклады
Уже десять вечера. Вы знаете, где ваши агенты?
AI Engineer World's Fair 2026
Близко по содержанию
Ваш агент — смертоносная триада (и что с этим делать)
AI Engineer NYC 2026 Online Talks
Близко по содержанию
Защита агентов с помощью открытых стандартов
AI Engineer World's Fair 2025
Близко по содержанию
Ваш AI Agent хочет получить ваши данные. Вот как их защитить
Близко по содержанию

