· AI Engineer World's Fair 2025
Безопасность агентов, исполняющих код
Safety and security for code-executing agents
Безопасность агентов, которые пишут и запускают код, держится на системных ограничениях: песочнице, закрытой сети и проверке человеком.
- Песочница на уровне ОС — на macOS используется Seatbelt по образцу Chromium, на Linux реализация на Rust с
seccompиLandlock, которая не даёт агенту повысить привилегии. - Ограниченная сеть — в Codex в ChatGPT интернет включается со списками разрешённых адресов и HTTP-методов. Инструкция, спрятанная в комментарии к GitHub issue, может заставить модель отправить код на внешний адрес, поэтому запрет на уровне системы надёжнее, чем суждение модели.
- Полный автоматический режим — в
Codex CLIагент читает и пишет файлы только в своей директории, а сетевые вызовы разрешены лишь для заранее одобренных команд. - Мониторы не заменяют человека — по словам спикера, LLM-мониторы пока не дают той определённости, что детерминированный контроль, поэтому проверка действий и диффов человеком остаётся одной из главных защит.
Кому полезно: тем, кто запускает кодинговых агентов локально или в своей инфраструктуре и решает, какие файлы и сеть им выдать.
Статья по теме
На какие вопросы отвечает доклад
Как не дать агенту отправить код наружу из-за вредоносной инструкции в GitHub issue?
Ограничить сеть allow list-ами доменов и HTTP-методов. По словам спикера, системный запрет надёжнее модельных проверок: агенту не стоит даже обращаться к внешнему адресу.
▶ 6:40macOS Seatbelt и sandboxing с Linux seccomp/LandlockКак запускать агента, который сам пишет и выполняет код, на своей машине с изоляцией?
Использовать контейнер или OS-level песочницу. В режиме full-auto Codex CLI агент читает и пишет файлы только в своей директории, а сеть открыта только для заранее разрешённых команд.
▶ 4:07Изоляция контейнеров, локальный sandbox и ограничения доступа к интернетуКак изолировать процесс агента на macOS и Linux без контейнеров?
На macOS используется политика Seatbelt по образцу Chromium, на Linux песочница на Rust с seccomp и Landlock. Она запускает процесс без привилегий и мешает эскалации прав.
▶ 6:40macOS Seatbelt и sandboxing с Linux seccomp/LandlockДостаточно ли проверять работу агента LLM-ревьюером или нужен человек?
По словам спикера, LLM-мониторы пока не дают той определённости, что детерминированный контроль. Человек должен смотреть diff и операции, но не нажимать Approve на каждую команду.
▶ 5:32Проверка человеком, подтверждения и open source Codex CLIКак не дать агенту установить вредоносный или похожий по написанию пакет?
Проверять зависимости через MCP-сервер сервиса Socket до установки или системной проверкой после выполнения. Запуск рекомендуется вести в удалённом контейнере.
▶ 10:32Operator, возможности Codex CLI и заключениеКак контролировать действия агента, который работает в браузере от имени пользователя?
Использовать список разрешённых доменов и монитор, который в режиме watch показывает человеку потенциально чувствительные действия до их выполнения.
▶ 10:32Operator, возможности Codex CLI и заключение
Главы
Похожие доклады
Зачем и как запускать код, сгенерированный ИИ, в песочнице?
AI Engineer Europe 2026
Близко по содержанию
300 agents, 60 человек: как мы обеспечили безопасность собственных AI agents
Близко по содержанию
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию
Ваш ИИ — не проблема. Проблема — ваша инфраструктура.
AI Engineer NYC 2026 Online Talks
Близко по содержанию

