· AI Engineer World's Fair 2026
AI-багпокалипсис уже здесь. Что теперь?
The AI bugpocalypse is here. Now what?
Противодействовать волне AI-найденных уязвимостей можно, закрывая целые классы багов на уровне языков и архитектуры и проверяя код до pull request.
- Классы уязвимостей вместо одиночных багов — большинство уязвимостей, которые находят frontier модели, относятся к давно известным классам, например к переполнению буфера. По словам спикера, около 60–70% уязвимостей в продуктах на memory-unsafe языках можно полностью предотвратить memory-safe языками.
- Переписывание критичных библиотек — Google, Microsoft и Amazon переводят части кода на Rust, а новый код в Android стали писать на безопасном языке. Разовая миграция, по мнению спикера, окупается на годы, в отличие от постоянного латания уязвимостей.
- Контекстные баги в коде от моделей — по бенчмарку BaxBench (ETH Zurich, UC Berkeley), лучшие модели вносят уязвимости в 20–40% случаев. Чаще это ошибки авторизации, для которых нужна бизнес-логика компании, и модель её не знает.
- Проверка до pull request — спикер ожидает, что в ближайшие 6–12 месяцев большую часть кода будет ревьюить AI. Поэтому guardrails и видимость того, как команды используют AI coding инструменты, нужны до слияния кода.
Кому полезно: тем, кто выдаёт coding агентам доступ к репозиториям и отвечает за безопасность того, что они пишут.
Статья по теме
Главы
Похожие доклады
Сквозь туман ИИ: архитектурное решение, от которого зависят следующие 24 месяца безопасности агентного ИИ
Ezra Tanzer, Manoj Nair, Randall Degges
AI Engineer World's Fair 2026
Близко по содержанию
Как улучшить vibe coding
AI Engineer World's Fair 2025
Близко по содержанию
Безопасность агентов, исполняющих код
AI Engineer World's Fair 2025
Близко по содержанию
Безопасность AI-агентов: разрешения, происхождение и цепочка поставок
AI Engineer World's Fair 2026
Близко по содержанию

