· AI Engineer World's Fair 2026
Как использовать LLM для защиты исходного кода
Using LLMs to Secure Source Code
Поиск уязвимостей с помощью LLM стал простым, узкое место сместилось на верификацию, триаж и патчинг, и под них нужен замкнутый цикл из шести шагов.
- Threat model как контекст — по наблюдениям команд из доклада, хорошо описанная threat model поднимает долю подтверждённых находок примерно до 90%. Модель читает код, но не знает решений архитектора, закрытых ранее CVE и компенсирующих мер, поэтому их нужно записать.
- Песочница с живой системой — приложение, база и кэш запускаются в отдельных Docker-контейнерах без выхода в сеть и без облачных кредов. Агент подтверждает уязвимость, выполняя PoC, и это отсекает непроверяемые догадки.
- Раздельные поиск и верификация — поисковый агент, который проверяет себя сам, начинает занижать полноту. Независимый верификатор, который видит только саму уязвимость и пытается её опровергнуть, повышает точность.
- Патч с тремя проверками — PoC перестаёт работать, существующие тесты остаются зелёными, а свежий агент не находит обхода. По словам автора, такая петля заметно улучшает качество патчей.
Кому полезно: командам безопасности и разработчикам, которые хотят применять LLM-агентов для аудита кода и доводить найденные уязвимости до патча.
Статья по теме
Главы
Ещё доклады: Eugene Yan
Все 4 доклада →Чему мы научились за год разработки с LLM
Charles Frye, Eugene Yan, Jason Liu, Hamel Husain, Dr Bryan Bischof, Shreya Shankar
AI Engineer World's Fair 2024
Ключевой доклад о рекомендательных системах: улучшение рекомендаций и поиска в эпоху LLMs
AI Engineer World's Fair 2025
Копилоты повсюду
AI Engineer World's Fair 2024
Похожие доклады
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию
Защита LLM: безопасность, конфиденциальность, соответствие требованиям и борьба с галлюцинациями
AI Engineer World's Fair 2024
Близко по содержанию
Мы разрешили AI-агенту выполнять команды Bash — и выжили, чтобы об этом рассказать
Близко по содержанию
Зачем и как запускать код, сгенерированный ИИ, в песочнице?
AI Engineer Europe 2026
Близко по содержанию

