← Каталог

· AI Engineer World's Fair 2026

AI-багпокалипсис уже здесь. Что теперь?

The AI bugpocalypse is here. Now what?

Противодействовать волне AI-найденных уязвимостей можно, закрывая целые классы багов на уровне языков и архитектуры и проверяя код до pull request.

  • Классы уязвимостей вместо одиночных багов — большинство уязвимостей, которые находят frontier модели, относятся к давно известным классам, например к переполнению буфера. По словам спикера, около 60–70% уязвимостей в продуктах на memory-unsafe языках можно полностью предотвратить memory-safe языками.
  • Переписывание критичных библиотек — Google, Microsoft и Amazon переводят части кода на Rust, а новый код в Android стали писать на безопасном языке. Разовая миграция, по мнению спикера, окупается на годы, в отличие от постоянного латания уязвимостей.
  • Контекстные баги в коде от моделей — по бенчмарку BaxBench (ETH Zurich, UC Berkeley), лучшие модели вносят уязвимости в 20–40% случаев. Чаще это ошибки авторизации, для которых нужна бизнес-логика компании, и модель её не знает.
  • Проверка до pull request — спикер ожидает, что в ближайшие 6–12 месяцев большую часть кода будет ревьюить AI. Поэтому guardrails и видимость того, как команды используют AI coding инструменты, нужны до слияния кода.

Кому полезно: тем, кто выдаёт coding агентам доступ к репозиториям и отвечает за безопасность того, что они пишут.

Статья по теме

Главы

Похожие доклады