← Каталог

Ваш AI Agent хочет получить ваши данные. Вот как их защитить

Your AI Agent Wants Your Data. Here's How to Lock It Down - Jeff Smith, Oracle

Агенту безопаснее давать параметризованные отчёты вместо генерации SQL, а права доступа проверять на уровне самой базы.

  • Отчёты как инструменты — агент выбирает из готовых отчётов через два инструмента, List Reports и Execute Reports, а не получает по инструменту на каждый отчёт, иначе контекст переполняется. Ошибка модели тогда возможна в выборе отчёта, но не в сгенерированном SQL.
  • Безопасность в базе — роли пользователя из SSO определяют, какие данные он видит, и база фильтрует результат до того, как он попадёт к агенту. По словам авторов, это функция deep data security, а проверки, зашитые в инструменты, обходятся, если кто-то подключит другой клиент.
  • Диагностика на standby — агент разбирает медленные запросы на read-only копии базы через Data Guard, собирает статистики и AWR-отчёты и не трогает production. Инструменты объединены в 3–4 группы с опциями, а не разбиты на 15 однофункциональных.
  • Аннотации схемы в базе — описания таблиц из Confluence и SharePoint сохраняются в самой базе, а инструмент schema info отдаёт агенту сжатый словарь вместо того, чтобы он перебирал таблицы и тратил токены на разведку.

Кому полезно: тем, кто подключает LLM-агентов к корпоративной базе данных и отвечает за то, какие данные агент может видеть.

Статья по теме

На какие вопросы отвечает доклад

  • Почему генерация SQL из естественного языка в продакшене рискованна для бизнес-пользователей?

    LLM часто выполняют запросы, которые возвращают правдоподобные, но неверные данные, и перебирают схему базы, что дорого по токенам и времени. Спикер предлагает ограничивать агента заранее написанными отчетами.

    ▶ 7:09Почему преобразование естественного языка в SQL рискованно
  • Как дать агенту сотни отчетов, не загружая контекст сотнями отдельных инструментов?

    Вместо сотни инструментов используются два MCP-инструмента: List Reports и Execute Reports. Агент находит нужный отчет по подходящей фразе и запускает его, а SQL внутри параметризован и заранее зашит.

    ▶ 9:43Список отчётов и их выполнение
  • Как безопасно разбирать медленный запрос в продакшене с помощью LLM-агента?

    Агент работает с read-only standby-копией базы через Data Guard, где может собирать статистику и AWR-отчет, но индексы не создает. Он дает советы, а применяет их инженер.

    ▶ 11:30Сценарий 2: Настройка производительности
  • Как помочь агенту разобраться в базе с запутанными именами таблиц и колонок?

    Инструмент отдает агенту сжатый словарь схемы, построенный по метаданным базы, а описания из Confluence и документов сохраняются в базе как аннотации. Это помогает писать точный SQL с первого раза.

    ▶ 14:48Сценарий 3: Документация схемы для агентов
  • Как ограничить строки и колонки, которые агент получает из базы, по роли пользователя?

    Пользователь входит через SSO, роли и scopes передаются в сессию OAuth 2.0, а база фильтрует результат до того, как он вернется агенту. Спикер называет это deep data security.

    ▶ 17:27Безопасность: кто запрашивает?

Главы

Похожие доклады