← Статьи

Как дать ИИ-агенту память между сессиями?

Context window живёт одну сессию. Память делают отдельным слоем: агент пишет факты во внешнее хранилище, а следующая сессия находит нужные через поиск. Устаревшие записи надо помечать и удалять, а если задача помещается в контекст, память не нужна.

Опубликовано · по материалам 7 докладов

Как дать ИИ-агенту память между сессиями?

Почему агент каждый раз начинает с нуля

Context window - это вход одного запуска. Всё, что агент узнал за сессию, исчезает вместе с ней: где была причина бага, какие запросы сработали, в каком порядке собирается проект. Поэтому Claude Code и Codex в новой сессии снова читают те же файлы и наступают на те же грабли.

Растянуть окно не выйдет. Модели плохо помнят середину длинного входа, Elizabeth Fuentes Leone из AWS называет это U-образной кривой внимания. Каждый лишний токен к тому же оплачивается на каждом шаге, и в YugabyteDB большое окно назвали самым быстрым и дорогим способом провалиться. Окно отвечает за то, что модель видит сейчас, а то, что должно пережить сессию, хранит память. Строить её приходится отдельно.

▶ 0:57От контекста к памяти: вашим agents нужен полноценный слой памяти, смотреть с 0:57

«Контекстное окно - это не память. Это вход для текущего запуска, а не накопленный опыт.»

Context windows are, are not memory. They are the input for the current run and not a persistent experience.

Anders Swanson · AI Engineer World's Fair 2026 · смотреть с 0:57
▶ 2:15Почему большие контекстные окна не спасут вашего агента, смотреть с 2:15

«Данных много, и если их очень-очень много, агент забудет середину, ту, что на кривой.»

We have a lot of data, but if that data is super, super big, the agent is going to forget the middle in the, in the, in the curve.

Elizabeth Fuentes Leone · AI Engineer World's Fair 2026 · смотреть с 2:15
▶ 4:39Проблема памяти агентов решена. А обучения — нет., смотреть с 4:39

«А большее контекстное окно - самый верный путь к быстрому и дорогому провалу. Потому что оно ничего не даёт. Контекст гниёт.»

And a bigger context window is the surest way to quickest failure in an expensive manner, right? 'Cause it doesn't do anything. Your context rots.

Heather Downing, Karthik Ranganathan · AI Engineer World's Fair 2026 · смотреть с 4:39

Сначала разберитесь с контекстом внутри сессии

Память между сессиями не поможет агенту, который тонет уже в текущей. Два очевидных хода здесь не работают. Если обрезать историю, агент теряет нить: в Arize после обрезки их агент Alyx принимал уточняющий вопрос за новый разговор. Суммаризация оказалась нестабильной, потому что модель сама решает, что важно, и выбрасывает как раз то, что понадобится через три хода.

В Alyx в итоге прижилась схема, которую можно брать за основу. Начало и конец истории остаются в контексте, середина уходит в хранилище с идентификаторами, и у агента есть инструмент, чтобы достать оттуда нужное сообщение. System prompt не трогают, а из повторяющихся вызовов инструментов оставляют последний результат.

Ещё два приёма снимают нагрузку с основного агента:

  • Субагенты для тяжёлой работы. Поиск по данным с десятками запросов идёт в отдельном контексте, основной агент получает только итог.
  • Указатели вместо больших ответов. Инструмент кладёт логи или выгрузку в хранилище и возвращает агенту идентификатор. В контекст данные попадут, только если агент их запросит.
▶ 6:26Как мы решили проблему управления контекстом в агентах, смотреть с 6:26

«Это звучало как очевидное решение, но результат был слишком нестабильным: мы никак не управляли тем, что считается важным.»

And that really sounded like the obvious solution, but it was too inconsistent, where there was no control over what was important.

Sally-Ann DeLucia · AI Engineer Europe 2026 · смотреть с 6:26
▶ 6:56Как мы решили проблему управления контекстом в агентах, смотреть с 6:56

«Мы берём начало, всё те же сто символов. Берём ещё сто с конца, а середину вырезаем и, по сути, сохраняем.»

so we take the beginning, still a hundred characters. We also take a hundred off of the tail, and then we, we take out the middle, and we basically store that.

Sally-Ann DeLucia · AI Engineer Europe 2026 · смотреть с 6:56
▶ 7:47Как мы решили проблему управления контекстом в агентах, смотреть с 7:47

«Контекст решает, что видит модель, а память решает, что сохранится.»

So context decides what the model sees, memory decides what survives

Sally-Ann DeLucia · AI Engineer Europe 2026 · смотреть с 7:47

Что записывать в долгосрочную память

В память идут выводы, стенограммы там не нужны. Запись должна выглядеть как «письма не уходили, потому что рассылка работала в sandbox-режиме SES», а не как двадцать сообщений, в которых это выясняли. Сырую историю можно хранить рядом, чтобы потом проверить, откуда взялся факт.

Записи удобно делить по типам, потому что ищут их по-разному. Anders Swanson из Oracle выделяет четыре: эпизоды прошлых сессий, факты о проекте и пользователе, процедуры (как делается конкретная задача) и рабочее состояние текущей работы. Факт обычно находят по точному совпадению, процедуру по похожести задачи.

У записи есть ещё два обязательных свойства. Из текста заранее вырезают секреты и персональные данные, до того как он попадёт в embeddings. И каждой записи назначают область: агент, задача, команда или пользователь. Без области память одного клиента однажды всплывёт в сессии другого.

Где хранить и как искать

Для начала хватит файлов: модель хорошо с ними работает. Сложности начинаются, когда агентов несколько. У файлов нет транзакций, и два агента, которые правят один файл, перетрут друг друга. Ignacio Martinez из Oracle предлагает гибрид: рабочие заметки живут в файлах, а то, что нужно надолго, например предпочтения пользователя, переезжает в базу.

Поиск важнее хранилища. Если в каждую сессию вываливать в промпт всю папку заметок, получится то же большое окно с теми же проблемами. Dylan Couzon из Qdrant сводит память к трём действиям: записать, найти, забыть. У поиска есть рычаги, которых нет у промпта: фильтр по теме, вес по свежести и по частоте использования. Swanson добавляет к этому hybrid search, где векторное сходство, поиск по словам и связи между сущностями сводятся в одну выдачу.

▶ 5:21Хватит арендовать память для своего ИИ, смотреть с 5:21

«Это не промпт побольше. Это система с тремя глаголами: записать, найти и забыть.»

It's not a bigger prompt. It's a systems with three verbs: write, retrieve, and forget.

Dylan Couzon · AI Engineer Code 2025 · смотреть с 5:21
▶ 21:15Тотальное запоминание: память агентов и harness engineering, смотреть с 21:15

«Краткосрочная память живёт в файлах, а когда что-то нужно перевести в долгосрочную память, например предпочтения пользователя, это можно перенести в более структурированное место, такое как база данных.»

short-term memory, right? That lives in files, and when something needs to be promoted into a long-term memory, for instance, user preferences, things like this, they can go into a more structured space like a database

Ignacio Martinez · AI Engineer World's Fair 2026 · смотреть с 21:15

Как память портится

Память, в которую только пишут, со временем начинает вредить. Swanson перечисляет типичные сбои:

  • Устаревшие факты. Проект перешёл с NPM на другую систему сборки, а агент по старой записи запускает npm.
  • Утечка между областями. Агент находит запись чужого пользователя.
  • Отравленные записи. Недоверенный источник оставил в памяти инструкцию, и она срабатывает в каждой новой сессии. Это prompt injection, который переживает перезапуск.
  • Конфликты. Две записи про одну задачу противоречат друг другу, и обе стоят в начале выдачи.

Отсюда минимум для любой памяти. У записей есть срок годности, область проверяют и при записи, и при чтении, а полезность оценивают по результату. Запись, которая помогла, поднимается в выдаче, а та, что навредила, опускается или удаляется.

▶ 12:33От контекста к памяти: вашим agents нужен полноценный слой памяти, смотреть с 12:33

«Память устаревает, когда, скажем, проект какое-то время использует NPM, а потом мы решаем перейти на другую систему сборки.»

stale memory can occur when, say, my, my project uses NPM at one time, and then we decide to switch to another build system.

Anders Swanson · AI Engineer World's Fair 2026 · смотреть с 12:33

Как проверить, что память работает

Сбои памяти видны поздно, на двадцатом ходу, и короткие тесты их не ловят. В Arize добавили тесты длинных сессий: загружают десять ходов истории и проверяют одиннадцатый. Для памяти между сессиями подходит тот же приём. Заполните память прошлыми сессиями и задайте вопрос, ответ на который лежит в одной из них.

Стоимость тоже надо мерить. Stefania Druga из Sakana AI гоняла локальные модели на задачах, где ответ лежит на 124-м шаге, а вопрос задают на 500-м. Лучше всех сработал журнал решений с ранжированием: он обошёл и векторный RAG, и работу без памяти. А на задаче, которая целиком помещалась в контекст, память ничего не добавила и только увеличила расходы. Поэтому сначала проверьте, выходит ли задача за пределы окна. Если нет, хватит хорошо собранного контекста.

▶ 8:59Как мы решили проблему управления контекстом в агентах, смотреть с 8:59

«В итоге мы загружаем десять ходов и проверяем одиннадцатый, чтобы понять, как справляется контекст.»

what we end up doing is we load ten turns, and then we test the 11th to understand how the context is doing.

Sally-Ann DeLucia · AI Engineer Europe 2026 · смотреть с 8:59
▶ 6:22Memory harnesses для долго работающих исследовательских агентов, смотреть с 6:22

«Память не добавила возможностей. Результат с памятью и без неё был одинаковым, память только увеличила затраты.»

the memory actually didn't add more capability. It was the same performance with memory and without memory, and it only added more cost.

Stefania Druga · AI Engineer World's Fair 2026 · смотреть с 6:22

Насколько этому можно верить

Большинство спикеров продают память или базу под неё: Oracle, YugabyteDB, Qdrant. Их схемы похожи на описание собственных продуктов, и это стоит держать в голове. В Arize прямо говорят, что долгосрочной памяти у Alyx пока нет, а правило «сто символов с начала, сто с конца» остаётся эвристикой. Цифры Druga проверить проще всего, но это 68 вопросов на двух моделях.

В двух вещах источники сходятся. Большое окно память не заменяет. А память без чистки и проверки со временем начинает врать.