← Каталог

· AI Engineer World's Fair 2026

Безопасность разработки с AI-агентами

Agentic Development Security

Безопасность агентной разработки держится на трёх опорах: код, который пишет агент, инструменты, к которым он подключён, и его действия.

  • Hooks вместо правил — сканирование запускается асинхронно сразу после записи файла агентом, новые проблемы попадают во временный файл, а фикс-цикл стартует на событии sessionStop. По словам авторов, задержка исчезает, а контекстное окно не заполняется лишними результатами сканирования.
  • Аудит skills — в проверке почти четырёх тысяч skills на ClawHub больше одного из восьми имели критическую проблему, а 76 содержали вредоносную нагрузку. Вредоносный skill может менять память агента и сохраняться даже после удаления.
  • Steer и ask — часть действий, например утечку PII или секретов, можно переписать до выполнения команды (steer), а опасные команды или доступ за пределы разрешённой директории отдавать человеку (ask). По словам спикера, для фоновых агентов запросы подтверждения становятся неудобны.
  • Локальный ассистент — прототип на Electron показывает запущенные агенты, MCP-серверы и skills, журнал команд и файлов, а также блокирует чтение файла с секретами. Проект в разработке, выпуск не обещан; доклад в основном рассказывает о продуктах Snyk, поэтому полезнее всего приёмы с hooks.

Кому полезно: тем, кто запускает агентов на длинные задачи без присмотра и хочет ограничить их доступ к файлам и инструментам.

Статья по теме

Главы

Ещё доклады: Ezra Tanzer

Страница спикера →

Похожие доклады