← Каталог

· AI Engineer World's Fair 2026

Как использовать LLM для защиты исходного кода

Using LLMs to Secure Source Code

Поиск уязвимостей с помощью LLM стал простым, узкое место сместилось на верификацию, триаж и патчинг, и под них нужен замкнутый цикл из шести шагов.

  • Threat model как контекст — по наблюдениям команд из доклада, хорошо описанная threat model поднимает долю подтверждённых находок примерно до 90%. Модель читает код, но не знает решений архитектора, закрытых ранее CVE и компенсирующих мер, поэтому их нужно записать.
  • Песочница с живой системой — приложение, база и кэш запускаются в отдельных Docker-контейнерах без выхода в сеть и без облачных кредов. Агент подтверждает уязвимость, выполняя PoC, и это отсекает непроверяемые догадки.
  • Раздельные поиск и верификация — поисковый агент, который проверяет себя сам, начинает занижать полноту. Независимый верификатор, который видит только саму уязвимость и пытается её опровергнуть, повышает точность.
  • Патч с тремя проверками — PoC перестаёт работать, существующие тесты остаются зелёными, а свежий агент не находит обхода. По словам автора, такая петля заметно улучшает качество патчей.

Кому полезно: командам безопасности и разработчикам, которые хотят применять LLM-агентов для аудита кода и доводить найденные уязвимости до патча.

Статья по теме

Главы

Ещё доклады: Eugene Yan

Все 4 доклада →

Похожие доклады