← Каталог

· AI Engineer World's Fair 2025

Безопасность агентов, исполняющих код

Safety and security for code-executing agents

Безопасность агентов, которые пишут и запускают код, держится на системных ограничениях: песочнице, закрытой сети и проверке человеком.

  • Песочница на уровне ОС — на macOS используется Seatbelt по образцу Chromium, на Linux реализация на Rust с seccomp и Landlock, которая не даёт агенту повысить привилегии.
  • Ограниченная сеть — в Codex в ChatGPT интернет включается со списками разрешённых адресов и HTTP-методов. Инструкция, спрятанная в комментарии к GitHub issue, может заставить модель отправить код на внешний адрес, поэтому запрет на уровне системы надёжнее, чем суждение модели.
  • Полный автоматический режим — в Codex CLI агент читает и пишет файлы только в своей директории, а сетевые вызовы разрешены лишь для заранее одобренных команд.
  • Мониторы не заменяют человека — по словам спикера, LLM-мониторы пока не дают той определённости, что детерминированный контроль, поэтому проверка действий и диффов человеком остаётся одной из главных защит.

Кому полезно: тем, кто запускает кодинговых агентов локально или в своей инфраструктуре и решает, какие файлы и сеть им выдать.

Статья по теме

На какие вопросы отвечает доклад

  • Как не дать агенту отправить код наружу из-за вредоносной инструкции в GitHub issue?

    Ограничить сеть allow list-ами доменов и HTTP-методов. По словам спикера, системный запрет надёжнее модельных проверок: агенту не стоит даже обращаться к внешнему адресу.

    ▶ 6:40macOS Seatbelt и sandboxing с Linux seccomp/Landlock
  • Как запускать агента, который сам пишет и выполняет код, на своей машине с изоляцией?

    Использовать контейнер или OS-level песочницу. В режиме full-auto Codex CLI агент читает и пишет файлы только в своей директории, а сеть открыта только для заранее разрешённых команд.

    ▶ 4:07Изоляция контейнеров, локальный sandbox и ограничения доступа к интернету
  • Как изолировать процесс агента на macOS и Linux без контейнеров?

    На macOS используется политика Seatbelt по образцу Chromium, на Linux песочница на Rust с seccomp и Landlock. Она запускает процесс без привилегий и мешает эскалации прав.

    ▶ 6:40macOS Seatbelt и sandboxing с Linux seccomp/Landlock
  • Достаточно ли проверять работу агента LLM-ревьюером или нужен человек?

    По словам спикера, LLM-мониторы пока не дают той определённости, что детерминированный контроль. Человек должен смотреть diff и операции, но не нажимать Approve на каждую команду.

    ▶ 5:32Проверка человеком, подтверждения и open source Codex CLI
  • Как не дать агенту установить вредоносный или похожий по написанию пакет?

    Проверять зависимости через MCP-сервер сервиса Socket до установки или системной проверкой после выполнения. Запуск рекомендуется вести в удалённом контейнере.

    ▶ 10:32Operator, возможности Codex CLI и заключение
  • Как контролировать действия агента, который работает в браузере от имени пользователя?

    Использовать список разрешённых доменов и монитор, который в режиме watch показывает человеку потенциально чувствительные действия до их выполнения.

    ▶ 10:32Operator, возможности Codex CLI и заключение

Главы

Похожие доклады