Внедрение AI в пяти крупных банках без 12-месячного ожидания согласований
Shipping AI Into 5 Major Banks Without a 12-Month Compliance Wait — Al Chen, Cisco
Ускорить вывод AI-системы в банк можно, предъявляя доказательства безопасности и корректности данных, а не статусы версий и логов.
- Проверка CVE через эксплойт — обновлённая версия пакета не доказывает, что уязвимость ушла. По словам спикера, агент воспроизводит эксплойт на старой версии и проверяет им обновлённое приложение, а тесты запускаются параллельно в sandbox.
- Проверка бэкапа ClickHouse — успешные логи backup и restore ничего не говорят о состоянии данных. Спикер предлагает сверять количество строк между таблицами и проверять, что реплики в регионе сошлись.
- Резидентность данных — между регионами реплицируют только ID и метаданные, а основные trace-данные остаются в юрисдикции, где их обязаны хранить.
- Утечки через LLM judge — redaction в UI не спасает, если reasoning судьи сохраняется с PII или MNPI. Оценку сохраняют всегда, а reasoning показывают после проверки на чувствительные данные или через второго судью на редактированном входе; цена этого — лишний LLM-вызов на каждый запрос.
Кому полезно: тем, кто готовит AI-системы к запуску в банке или другой регулируемой отрасли и отвечает за compliance-проверки.
Статья по теме
На какие вопросы отвечает доклад
Как доказать, что CVE в образе устранена, если обновлена лишь версия пакета?
Агент по инструкции пишет эксплойт на старой версии пакета и проверяет его на новой в параллельных контейнерах или sandbox. Результаты нескольких прогонов дают доказательство, что эксплойта в коде приложения больше нет.
▶ 2:42Устранение CVE и верификация эксплойтовПочему успешный бэкап и восстановление ClickHouse не гарантируют корректность данных после DR?
Логи clickhouse-backup фиксируют только факт запуска задач. Нужно сравнивать число строк в таблицах и проверять, что реплики в регионе сошлись: сбой диска, узла, миграция или отставание репликации делают данные устаревшими.
▶ 7:02Резервное копирование, восстановление и резидентность данныхКак реплицировать данные трейсов между регионами и не нарушить требования к резидентности данных?
В другие регионы реплицируются только ID и метаданные трейсов, а основные данные трассировок остаются в регионе, где того требует юрисдикция.
▶ 7:02Резервное копирование, восстановление и резидентность данныхКак не допустить утечку PII через рассуждения LLM-судьи, если в UI данные уже замаскированы?
Оценку сохраняют всегда, а reasoning показывают только после проверки записи на чувствительные данные. Если нужно объяснение, второй LLM-судья получает обезличенный вход, но это ещё один вызов модели.
▶ 10:07Утечка PII через LLM-as-a-judgeПочему вывод AI-системы в продакшен в банке растягивается на месяцы?
Сроки задают процессы, а не код: загрузка образов в реестр, готовые GPU, security-ревью, LLM gateway, RBAC и согласования. Отсутствие процесса одобрения образов и закупки GPU затягивает внедрение дальше.
▶ 13:06Сигналы, которые определяют срок развёртывания
Главы
Похожие доклады
Эксплойты теперь опережают патчи: безопасность open source в эпоху ИИ
Близко по содержанию
Практическое руководство по запуску ИИ-агентов в корпоративном масштабе
AI Engineer Europe 2026
Близко по содержанию
Чему ошибка банка на $900 млн учит нас об AI agents
Близко по содержанию
Может ли ваш ИИ-аналитик хранить секреты?
Близко по содержанию

