← Каталог

· AI Engineer World's Fair 2026

Ваш стек LLM — это база данных 2008 года с более удачным маркетингом

Your LLM Stack Is a 2008 Database With Better Marketing

Взломы ML- и LLM-систем в продакшене чаще всего случаются из-за обычных ошибок инфраструктуры, а не экзотических атак на модели.

  • Открытые Ray-кластеры — в 2023 году исследователи нашли тысячи Ray-кластеров в интернете: дашборды и API заданий были открыты, потому что аутентификация по умолчанию выключена и её забывали включить при выкладке.
  • Аудит реальных установок — по данным исследования 50 производственных ML-систем, в 78% нашлась как минимум одна критическая ошибка: широкие права доступа, отсутствие разделения частей системы и веса моделей в хранилище, доступном всем.
  • Цена защиты — по словам спикера, базовые проверки (логины, валидация входа) добавляют менее 8% задержки, изоляция нагрузок 10–20%, а проверка вредоносного ввода в реальном времени 15–30%; многое зависит от того, насколько аккуратно это сделано.
  • Базовая гигиена — короткоживущие учётные данные, минимальные права для каждой учётной записи, сегментация сети с проверенной идентичностью между сервисами и менеджер секретов с автоматическим сканированием до выкладки.

Кому полезно: тем, кто выводит LLM- и ML-сервисы в продакшен и отвечает за кластеры, доступы и хранение моделей.

Статья по теме

Главы

Похожие доклады