Зачем и как запускать код, сгенерированный ИИ, в песочнице?
Why, and how you need to sandbox AI-Generated Code? — Harshil Agrawal, Cloudflare
Код, который генерирует LLM, нужно считать недоверенным и запускать в песочнице, где по умолчанию запрещено всё, кроме явно выданных возможностей.
- Изоляция по возможностям — песочница стартует без доступа, и код получает только нужные bindings. В примере автора isolate запускается с
globalOutbound: null, который блокирует все исходящие запросы, а база доступна только через метод query. - Isolates или контейнеры — V8 isolates стартуют примерно за миллисекунду, но не имеют файловой системы и процессов, поэтому подходят для вызовов инструментов и коротких функций. Для
git clone,npm installи dev server нужен Linux-контейнер, который поднимается за секунды; автор предлагает использовать оба варианта в одном агенте. - Секреты через прокси — API-ключ не попадает в песочницу. Код обращается к собственному воркеру, который добавляет авторизацию и пересылает запрос во внешний сервис.
- Жизнь песочницы — один пользователь получает один контейнер, уничтожение вызывается в
finallyдаже при ошибке, а у контейнера задаётся максимальное время жизни.
Кому полезно: тем, кто запускает код от LLM в продакшене или даёт агентам выполнять код, например генерировать skills или собирать приложения по запросу пользователя.
Статья по теме
Главы
Похожие доклады
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию
Защита LLM: безопасность, конфиденциальность, соответствие требованиям и борьба с галлюцинациями
AI Engineer World's Fair 2024
Близко по содержанию
Зачем AI-агентам нужна собственная песочница
AI Engineer World's Fair 2026
Близко по содержанию
Ваш ИИ — не проблема. Проблема — ваша инфраструктура.
AI Engineer NYC 2026 Online Talks
Близко по содержанию

