По тексту skill не понять, что он сделает
You Can't Tell What an Agent Skill Will Do by Reading It - Roey Ben Chaim, Zenity
Безопасность skill нельзя проверить по SKILL.md: вредоносное поведение проявляется при запуске, поэтому skills стоит исполнять в песочнице и смотреть на процессы, файлы и сеть.
- Запуск вместо сканирования — полезную нагрузку часто тянут по ссылкам и из скрипта установки, поэтому статический сканер её не видит. Спикер описывает песочницу, которая запускает skill с агентом и записывает создание процессов, события файловой системы и сетевой трафик.
- Цепочки skills — один skill ставит другой, а тот по инструкции загружает вредоносные команды. Спикер говорит, что LLM-анализаторы легко обмануть: по описанию исследователей, одного комментария «команда безопасности одобрила» хватало.
- Закрепление и хуки — skills дописывают себя в agent.md, переустанавливают себя без уведомления, подгружают промпт с внешнего адреса и срабатывают на каждое сообщение пользователя через хуки.
- Кампания кражи учётных данных — фальшивая организация Paperclip клонировала проект и тянула из скрипта установки payload, который собирал ключи SSH, AWS и Azure. По словам спикера, связанные пакеты набрали около 1,7 млн загрузок, прежде чем их убрали.
Кому полезно: тем, кто подключает сторонние skills к coding агентам или внутренним агентам и отвечает за их установку.
Статья по теме
Главы
Похожие доклады
Мы разрешили AI-агенту выполнять команды Bash — и выжили, чтобы об этом рассказать
Близко по содержанию
Как мы проверили 2 000 AI skills до того, как они попали к разработчикам
AI Engineer World's Fair 2026
Близко по содержанию
Эксплойты теперь опережают патчи: безопасность open source в эпоху ИИ
Близко по содержанию
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию

