← Каталог

· AI Engineer Code 2026

По тексту skill не понять, что он сделает

You Can't Tell What an Agent Skill Will Do by Reading It - Roey Ben Chaim, Zenity

Безопасность skill нельзя проверить по SKILL.md: вредоносное поведение проявляется при запуске, поэтому skills стоит исполнять в песочнице и смотреть на процессы, файлы и сеть.

  • Запуск вместо сканирования — полезную нагрузку часто тянут по ссылкам и из скрипта установки, поэтому статический сканер её не видит. Спикер описывает песочницу, которая запускает skill с агентом и записывает создание процессов, события файловой системы и сетевой трафик.
  • Цепочки skills — один skill ставит другой, а тот по инструкции загружает вредоносные команды. Спикер говорит, что LLM-анализаторы легко обмануть: по описанию исследователей, одного комментария «команда безопасности одобрила» хватало.
  • Закрепление и хуки — skills дописывают себя в agent.md, переустанавливают себя без уведомления, подгружают промпт с внешнего адреса и срабатывают на каждое сообщение пользователя через хуки.
  • Кампания кражи учётных данных — фальшивая организация Paperclip клонировала проект и тянула из скрипта установки payload, который собирал ключи SSH, AWS и Azure. По словам спикера, связанные пакеты набрали около 1,7 млн загрузок, прежде чем их убрали.

Кому полезно: тем, кто подключает сторонние skills к coding агентам или внутренним агентам и отвечает за их установку.

Статья по теме

Главы

Похожие доклады