← Каталог

Как валидный ключ позволил AI-агенту удалить production

A Valid Key Let an AI Agent Delete Production - Sagar Batchu, Speakeasy

Валидный ключ не значит валидное намерение, поэтому агентам нужен контрольный слой, который проверяет каждый вызов по идентичности и политике и пишет запись до выполнения.

  • Собственная идентичность агента — агент действует от своего имени через корпоративный IdP, а не под логином разработчика; запись фиксирует оператора и того, кто выдал ключ. При уходе владельца из компании все запросы его агентов отклоняются.
  • Права как пересечение — итог равен минимуму из потолка ключа, области агента и живой политики владельца, поэтому агент не получит больше, чем его владелец. Отозванное право перестаёт действовать на следующем запросе.
  • Один шлюз и запись до действия — все вызовы агентов идут через одну точку, например MCP gateway, где решение разрешить, отклонить, изменить или передать человеку принимается и логируется. По словам спикера, запись отражает фактическое действие, а не отчёт агента.
  • Секреты до модели — AWS-ключ в промпте ловится детектором до того, как модель его увидит; целевая задержка, по словам спикера, около 100 миллисекунд.

Кому полезно: тем, кто выводит агентов с доступом к продакшен-базам и API в регулируемой отрасли и должен отвечать на вопрос, кто и на каком основании совершил действие.

Статья по теме

На какие вопросы отвечает доклад

  • Как не дать агенту с валидным ключом сделать больше, чем разрешено владельцу?

    Итоговое право равно пересечению трёх границ: потолка, заданного при выдаче ключа, области агента и живой политики владельца. Они проверяются на каждом вызове, поэтому агент с доступом только к staging не тронет production, даже если владелец может это сделать.

    ▶ 8:26Подключение, проверка, принятие решения, фиксация
  • Как понять, кто на самом деле выполнил действие AI-агента в продакшене?

    У каждого агента есть собственная идентичность из IDP, а в журнале фиксируются оператор, который вёл агента, и человек, одобривший выдачу ключа. Если сотрудник уходит из компании, IDP отключает его, и запросы его агентов начинают отклоняться.

    ▶ 8:26Подключение, проверка, принятие решения, фиксация
  • Как не дать агенту отправить AWS-ключ в модель и зафиксировать такую попытку?

    Хук в runtime харнесса перехватывает промпт до того, как его увидит модель. Детектор находит ключ по шаблону, политика блокирует или помещает запрос в карантин, а событие записывается в журнал; цель по времени решения — до 100 мс.

    ▶ 5:26Контрольный слой для агентов
  • Как построить аудит действий AI-агентов, чтобы журнал отражал реальность, а не отчёт агента?

    Все вызовы инструментов идут через один шлюз, например MCP gateway. Каждый вызов связывается с идентичностью, получает решение allow, deny, modify или escalate и записывается до выполнения действия.

    ▶ 8:26Подключение, проверка, принятие решения, фиксация
  • Что делать, если политика останавливает агента, а команде нужно выполнить это действие?

    Сначала нужно видеть все решения политики в журнале и иметь эскалацию на человека, который решает, пропускать ли действие. Если решение признано верным, политику можно обновить так, чтобы действие разрешалось.

    ▶ 16:36Вопросы и ответы
  • Как контролировать персональные данные в работе агентов, не блокируя их работу целиком?

    По словам спикера, в большинстве компаний через агентов проходит много PII, и полная блокировка остановит работу. Политики стоит строить по назначению данных: публикация в общий Slack, отправка по email или передача в другой инструмент.

    ▶ 16:36Вопросы и ответы

Главы

Похожие доклады