Этап разработки и production: почему инструменты разработчика там не работают
Build-Time vs. Run-Time: Why Dev Tools Fail in Production — Averi Kitsch & Prerna Kakkar, Google
Агент в продакшене не должен генерировать SQL, знать учётные данные и user ID: эти параметры задаёт приложение.
- Lethal trifecta — утечка случается, когда у агента одновременно есть приватные данные, недоверенный контент и способ вернуть данные наружу. В примере злоумышленник в тикете просит выгрузить таблицу зарплат, и агент выполняет запрос своими правами.
- Заранее заданный SQL — в продакшен-инструментах модель заполняет только типизированные параметры в готовом запросе через prepared statements. По словам авторов, это закрывает SQL injection, снижает галлюцинации агента и помогает с задержками.
- Идентичность вне модели — user ID передаётся как bounded parameter, которую приложение привязывает после аутентификации, либо сервер проверяет подписанный JWT и берёт claims из токена. Модель не видит персональных данных.
- Права на уровне источника — подключение и учётные данные задаются в YAML на сервере, а режим только чтения доводится до драйвера БД. Дополнительно ограничиваются список разрешённых датасетов и размер выдачи.
Кому полезно: тем, кто выводит агентов с доступом к базам данных в продакшен.
Статья по теме
Главы
Похожие доклады
Ваш небезопасный MCP-сервер не переживёт продакшен
AI Engineer Europe 2026
Близко по содержанию
Смертельная триада уже на ваших ноутбуках
Близко по содержанию
Создание защищённых MCP-серверов
Den Delimarsky, Den Delimarsky (DEVDIV), Julia Kasper
AI Engineer World's Fair 2025
Близко по содержанию
Уже десять вечера. Вы знаете, где ваши агенты?
AI Engineer World's Fair 2026
Близко по содержанию


