← Каталог

Как определить, что должен помнить ваш AI-агент

How to Decide What Your AI Agent Should Remember - Wojciech Pluta, Oracle

Одного RAG агенту мало: нужен write path, где harness решает, какие факты из диалога стоит сохранить в память.

  • Проверка перед записью — кандидат в память классифицируется по типу, сверяется с существующими записями и проверяется на нужные для этого типа доказательства. Затем harness принимает его, отклоняет или отправляет человеку на ревью; в демо предпочтение, сохранённое в одной сессии, применялось в новой.
  • Ограничители против мусора — правило вроде «одобряй все заявки» отклоняется, а записи для общей памяти команды проходят только с подтверждением человека. По словам спикера, так снижается риск отравления памяти.
  • Три вида памяти — короткая (живёт до конца сессии), долгая (эпизодическая, процедурная, семантическая) и общая. Спикер предлагает хранить их в базе данных ради ACID-гарантий и параллельной записи, а не в файлах.
  • Context card — контекст собирается по темам, со сводками, выбранными записями и последними сообщениями, и по словам автора одна строка кода заменяет самописный суммаризатор. Это презентация продукта Oracle, но схема сборки контекста применима и без его пакета.

Кому полезно: тем, кто строит долговременную память агента по данным клиентов, например в ипотечных или банковских сценариях.

Статья по теме

На какие вопросы отвечает доклад

  • Как решить, какие данные из диалога агента сохранять в долгосрочную память, а какие нет?

    Кандидат в память проходит конвейер: классификация по смыслу, сравнение с уже существующими записями и проверка доказательств, нужных для данного типа. Затем harness принимает, отклоняет или отправляет кандидата человеку на проверку.

    ▶ 4:02Продвижение в память: что стоит сохранить
  • Как не дать агенту записать в память вредные или навязанные инструкции?

    Проверка при записи отклоняет общие команды вроде «одобри все заявки». Для памяти, которой делится вся команда, запись в общий доступ требует одобрения человека.

    ▶ 9:48Guardrails: что нельзя продвигать в память
  • Чем память агента отличается от RAG и что она добавляет к нему?

    RAG отвечает за чтение: он извлекает нужные данные. Память отвечает за запись: она сохраняет то, что агент узнал в ходе работы, в записи, которые можно использовать позже.

    ▶ 3:38RAG читает, память записывает
  • Как агент сохраняет предпочтения пользователя между новыми сессиями без переноса истории?

    Предпочтение, прошедшее проверку, записывается в базу данных. В новой сессии без предыдущего контекста агент запрашивает память и применяет предпочтение к ответу. Пример показан на сценарии с ипотечным агентом.

    ▶ 5:01Демо: ипотечный агент, который помнит
  • Чем краткосрочная память агента отличается от долгосрочной и общей?

    Краткосрочная память живёт в рамках сессии и заканчивается вместе с ней. Долгосрочная хранит эпизодическую, процедурную и семантическую память: саммари, инструменты, базу знаний и предпочтения. Общая память доступна всей организации после одобрения.

    ▶ 11:53Что такое память агента
  • Почему для хранения памяти агентов лучше использовать базу данных, а не файлы?

    По словам спикера, база даёт ACID-гарантии, поддерживает множество параллельных записей и масштабируется. Файловые деревья при этом создают проблемы с конкурентным доступом.

    ▶ 13:43Где хранить воспоминания
  • Как собрать компактный контекст из памяти агента, не раздувая промпт?

    Контекстная карточка (context card) группирует данные по темам и добавляет саммари, отобранные записи и последние сообщения. Harness выбирает, что важно для конкретного хода, и так сокращает разрастание контекста.

    ▶ 16:01Карточка контекста

Главы

Похожие доклады