← Каталог

У всех одинаковые AI-модели. Чем отличаются agents?

Everyone Has the Same AI Models. Here's What Sets Agents Apart - Richmond Alake, Oracle

Преимущество агентов задают собственная память, знания и доступ к данным, а модели у всех одинаковые; спикер называет этот слой intelligence plane.

  • Intelligence plane поверх control plane — слой знаний, памяти и обучения на данных добавляется к governance и оркестрации. По словам спикера, информация сама по себе не равна интеллекту.
  • Ontology и semantic layer — по словам спикера, на вопрос про контрагента агент с этим слоем ответил точнее, чем агент на простом текстовом поиске. В его демо он тратил около 32 тысяч токенов против 200 тысяч у наивного агента.
  • Decision models для маршрутизации памяти — маленькая дообученная модель решает, куда положить новую информацию: в хранилище диалогов или рабочих процессов, и это дешевле и проще, чем писать такую логику кодом. Спикер называет маршрутизацию, embeddings и reranking самыми доступными точками для старта.
  • Владейте своей памятью — относитесь к памяти как к данным: записывайте сущности и определения, переносите права доступа в data layer и сохраняйте трейсы, чтобы агент мог учиться дальше.

Кому полезно: тем, кто строит агентов в регулируемых отраслях, например в финансах, и хочет держать память и инференс у себя.

Статья по теме

На какие вопросы отвечает доклад

  • Почему агенты с теми же моделями и данными не дают преимущества?

    По словам спикера, информация не равна интеллекту. Преимущество дают знания, память, управление доступом и непрерывное обучение в отдельном слое intelligence plane поверх control plane.

    ▶ 8:16Что такое плоскость интеллекта
  • Почему агент ошибается в финансовых терминах, если ищет только по совпадению слов?

    По словам спикера, онтология и семантический слой дают точность, которой нет у простого поиска. В его демо агент с ними правильно отвечал про контрагента и термин «концентрация», а наивный агент ошибался.

    ▶ 14:01Демо: управляемый и наивный агент
  • Как дёшево и быстро направлять записи агента в нужное хранилище памяти?

    Спикер предлагает дообученную небольшую decision model: она классифицирует входящую информацию и направляет её в conversation или workflow memory. По его словам, это дешевле и проще правил в коде, а в некоторых случаях снижает задержку.

    ▶ 20:52Демо: fine-tuning маршрутизации памяти
  • Как не дать агенту читать данные, которые пользователю недоступны по правам строк?

    Спикер описывает Deep Data Security в Oracle: контекст пользователя и права на строки передаются в слой данных, и агент действует от имени пользователя, видя только его данные.

    ▶ 18:07Память агентов, безопасность и приватный inference
  • Как развернуть эмбеддинги, LLM и реранкеры агента на своей инфраструктуре?

    Спикер описывает контейнер Private AI service, в котором есть всё для собственных эмбеддингов, LLM-инференса и реранкеров on-prem. Для облака он упоминает Oracle Cloud.

    ▶ 18:07Память агентов, безопасность и приватный inference
  • Как собирать трассы памяти агента, чтобы модели учились на его работе?

    Спикер советует владеть памятью как данными: фиксировать сущности, определения и трассы агента. Это основа для непрерывного обучения, которое улучшает систему со временем.

    ▶ 24:41Итоги: владейте своей памятью

Главы

Ещё доклады: Richmond Alake

Страница спикера →

Похожие доклады