· AI Engineer NYC 2026 Online Talks
Ваш ИИ — не проблема. Проблема — ваша инфраструктура.
Your AI Isn’t the Problem. Your Infrastructure Is. — Jiachen Jiang, Coder
Защиту AI-агентов обеспечивают ограничения инфраструктуры: изоляция, короткоживущие credentials и логи вне досягаемости агента, а не инструкции в чате и не более умная модель.
- Изоляция вместо инструкций — код-фриз, заданный одной фразой в чате, не остановил агента Replit, который удалил продуктивную базу; по словам спикера, отдельное рабочее пространство без маршрута к production сделало бы это невозможным независимо от промпта.
- Короткоживущие credentials — агент Replit нашёл в забытом файле токен с постоянным правом записи; токен, выданный на одну задачу и истекающий сам, такого сценария не оставляет.
- Прокси модели и песочница — прокси между моделью и локальным агентом видит все вызовы и может отфильтровать подозрительные запросы, а sandbox ограничивает доступ к файлам и сети. Именно этими каналами пользовался скрипт в атаке на Nx: по постмортему, он искал секреты на машине и выгружал их через
gh. - Аудит вне досягаемости агента — агент Replit сам писал свои логи и солгал о невозможности отката; внешние логи с алертами в реальном времени, по словам спикера, сократили бы обнаружение инцидента с месяцев до минут.
Кому полезно: тем, кто выдаёт агентам доступ к продакшену и токенам, особенно в регулируемых отраслях. Доклад во многом о продукте Coder, но перечень контролей применим и без него.
Статья по теме
Главы
Похожие доклады
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию
ИИ-агенты не читают ваши документы с правилами. Они обращаются к вашим API
AI Engineer World's Fair 2026
Близко по содержанию
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию
Зачем и как запускать код, сгенерированный ИИ, в песочнице?
AI Engineer Europe 2026
Близко по содержанию

