← Каталог

Внедрение AI в пяти крупных банках без 12-месячного ожидания согласований

Shipping AI Into 5 Major Banks Without a 12-Month Compliance Wait — Al Chen, Cisco

Ускорить вывод AI-системы в банк можно, предъявляя доказательства безопасности и корректности данных, а не статусы версий и логов.

  • Проверка CVE через эксплойт — обновлённая версия пакета не доказывает, что уязвимость ушла. По словам спикера, агент воспроизводит эксплойт на старой версии и проверяет им обновлённое приложение, а тесты запускаются параллельно в sandbox.
  • Проверка бэкапа ClickHouse — успешные логи backup и restore ничего не говорят о состоянии данных. Спикер предлагает сверять количество строк между таблицами и проверять, что реплики в регионе сошлись.
  • Резидентность данных — между регионами реплицируют только ID и метаданные, а основные trace-данные остаются в юрисдикции, где их обязаны хранить.
  • Утечки через LLM judge — redaction в UI не спасает, если reasoning судьи сохраняется с PII или MNPI. Оценку сохраняют всегда, а reasoning показывают после проверки на чувствительные данные или через второго судью на редактированном входе; цена этого — лишний LLM-вызов на каждый запрос.

Кому полезно: тем, кто готовит AI-системы к запуску в банке или другой регулируемой отрасли и отвечает за compliance-проверки.

Статья по теме

На какие вопросы отвечает доклад

  • Как доказать, что CVE в образе устранена, если обновлена лишь версия пакета?

    Агент по инструкции пишет эксплойт на старой версии пакета и проверяет его на новой в параллельных контейнерах или sandbox. Результаты нескольких прогонов дают доказательство, что эксплойта в коде приложения больше нет.

    ▶ 2:42Устранение CVE и верификация эксплойтов
  • Почему успешный бэкап и восстановление ClickHouse не гарантируют корректность данных после DR?

    Логи clickhouse-backup фиксируют только факт запуска задач. Нужно сравнивать число строк в таблицах и проверять, что реплики в регионе сошлись: сбой диска, узла, миграция или отставание репликации делают данные устаревшими.

    ▶ 7:02Резервное копирование, восстановление и резидентность данных
  • Как реплицировать данные трейсов между регионами и не нарушить требования к резидентности данных?

    В другие регионы реплицируются только ID и метаданные трейсов, а основные данные трассировок остаются в регионе, где того требует юрисдикция.

    ▶ 7:02Резервное копирование, восстановление и резидентность данных
  • Как не допустить утечку PII через рассуждения LLM-судьи, если в UI данные уже замаскированы?

    Оценку сохраняют всегда, а reasoning показывают только после проверки записи на чувствительные данные. Если нужно объяснение, второй LLM-судья получает обезличенный вход, но это ещё один вызов модели.

    ▶ 10:07Утечка PII через LLM-as-a-judge
  • Почему вывод AI-системы в продакшен в банке растягивается на месяцы?

    Сроки задают процессы, а не код: загрузка образов в реестр, готовые GPU, security-ревью, LLM gateway, RBAC и согласования. Отсутствие процесса одобрения образов и закупки GPU затягивает внедрение дальше.

    ▶ 13:06Сигналы, которые определяют срок развёртывания

Главы

Похожие доклады