Как дать ИИ-агенту память между сессиями?
Context window живёт одну сессию. Память делают отдельным слоем: агент пишет факты во внешнее хранилище, а следующая сессия находит нужные через поиск. Устаревшие записи надо помечать и удалять, а если задача помещается в контекст, память не нужна.

Почему агент каждый раз начинает с нуля
Context window - это вход одного запуска. Всё, что агент узнал за сессию, исчезает вместе с ней: где была причина бага, какие запросы сработали, в каком порядке собирается проект. Поэтому Claude Code и Codex в новой сессии снова читают те же файлы и наступают на те же грабли.
Растянуть окно не выйдет. Модели плохо помнят середину длинного входа, Elizabeth Fuentes Leone из AWS называет это U-образной кривой внимания. Каждый лишний токен к тому же оплачивается на каждом шаге, и в YugabyteDB большое окно назвали самым быстрым и дорогим способом провалиться. Окно отвечает за то, что модель видит сейчас, а то, что должно пережить сессию, хранит память. Строить её приходится отдельно.
«Контекстное окно - это не память. Это вход для текущего запуска, а не накопленный опыт.»
Context windows are, are not memory. They are the input for the current run and not a persistent experience.
«Данных много, и если их очень-очень много, агент забудет середину, ту, что на кривой.»
We have a lot of data, but if that data is super, super big, the agent is going to forget the middle in the, in the, in the curve.
«А большее контекстное окно - самый верный путь к быстрому и дорогому провалу. Потому что оно ничего не даёт. Контекст гниёт.»
And a bigger context window is the surest way to quickest failure in an expensive manner, right? 'Cause it doesn't do anything. Your context rots.
Сначала разберитесь с контекстом внутри сессии
Память между сессиями не поможет агенту, который тонет уже в текущей. Два очевидных хода здесь не работают. Если обрезать историю, агент теряет нить: в Arize после обрезки их агент Alyx принимал уточняющий вопрос за новый разговор. Суммаризация оказалась нестабильной, потому что модель сама решает, что важно, и выбрасывает как раз то, что понадобится через три хода.
В Alyx в итоге прижилась схема, которую можно брать за основу. Начало и конец истории остаются в контексте, середина уходит в хранилище с идентификаторами, и у агента есть инструмент, чтобы достать оттуда нужное сообщение. System prompt не трогают, а из повторяющихся вызовов инструментов оставляют последний результат.
Ещё два приёма снимают нагрузку с основного агента:
- Субагенты для тяжёлой работы. Поиск по данным с десятками запросов идёт в отдельном контексте, основной агент получает только итог.
- Указатели вместо больших ответов. Инструмент кладёт логи или выгрузку в хранилище и возвращает агенту идентификатор. В контекст данные попадут, только если агент их запросит.
«Это звучало как очевидное решение, но результат был слишком нестабильным: мы никак не управляли тем, что считается важным.»
And that really sounded like the obvious solution, but it was too inconsistent, where there was no control over what was important.
«Мы берём начало, всё те же сто символов. Берём ещё сто с конца, а середину вырезаем и, по сути, сохраняем.»
so we take the beginning, still a hundred characters. We also take a hundred off of the tail, and then we, we take out the middle, and we basically store that.
«Контекст решает, что видит модель, а память решает, что сохранится.»
So context decides what the model sees, memory decides what survives
Что записывать в долгосрочную память
В память идут выводы, стенограммы там не нужны. Запись должна выглядеть как «письма не уходили, потому что рассылка работала в sandbox-режиме SES», а не как двадцать сообщений, в которых это выясняли. Сырую историю можно хранить рядом, чтобы потом проверить, откуда взялся факт.
Записи удобно делить по типам, потому что ищут их по-разному. Anders Swanson из Oracle выделяет четыре: эпизоды прошлых сессий, факты о проекте и пользователе, процедуры (как делается конкретная задача) и рабочее состояние текущей работы. Факт обычно находят по точному совпадению, процедуру по похожести задачи.
У записи есть ещё два обязательных свойства. Из текста заранее вырезают секреты и персональные данные, до того как он попадёт в embeddings. И каждой записи назначают область: агент, задача, команда или пользователь. Без области память одного клиента однажды всплывёт в сессии другого.
Где хранить и как искать
Для начала хватит файлов: модель хорошо с ними работает. Сложности начинаются, когда агентов несколько. У файлов нет транзакций, и два агента, которые правят один файл, перетрут друг друга. Ignacio Martinez из Oracle предлагает гибрид: рабочие заметки живут в файлах, а то, что нужно надолго, например предпочтения пользователя, переезжает в базу.
Поиск важнее хранилища. Если в каждую сессию вываливать в промпт всю папку заметок, получится то же большое окно с теми же проблемами. Dylan Couzon из Qdrant сводит память к трём действиям: записать, найти, забыть. У поиска есть рычаги, которых нет у промпта: фильтр по теме, вес по свежести и по частоте использования. Swanson добавляет к этому hybrid search, где векторное сходство, поиск по словам и связи между сущностями сводятся в одну выдачу.
«Это не промпт побольше. Это система с тремя глаголами: записать, найти и забыть.»
It's not a bigger prompt. It's a systems with three verbs: write, retrieve, and forget.
«Краткосрочная память живёт в файлах, а когда что-то нужно перевести в долгосрочную память, например предпочтения пользователя, это можно перенести в более структурированное место, такое как база данных.»
short-term memory, right? That lives in files, and when something needs to be promoted into a long-term memory, for instance, user preferences, things like this, they can go into a more structured space like a database
Как память портится
Память, в которую только пишут, со временем начинает вредить. Swanson перечисляет типичные сбои:
- Устаревшие факты. Проект перешёл с NPM на другую систему сборки, а агент по старой записи запускает npm.
- Утечка между областями. Агент находит запись чужого пользователя.
- Отравленные записи. Недоверенный источник оставил в памяти инструкцию, и она срабатывает в каждой новой сессии. Это prompt injection, который переживает перезапуск.
- Конфликты. Две записи про одну задачу противоречат друг другу, и обе стоят в начале выдачи.
Отсюда минимум для любой памяти. У записей есть срок годности, область проверяют и при записи, и при чтении, а полезность оценивают по результату. Запись, которая помогла, поднимается в выдаче, а та, что навредила, опускается или удаляется.
«Память устаревает, когда, скажем, проект какое-то время использует NPM, а потом мы решаем перейти на другую систему сборки.»
stale memory can occur when, say, my, my project uses NPM at one time, and then we decide to switch to another build system.
Как проверить, что память работает
Сбои памяти видны поздно, на двадцатом ходу, и короткие тесты их не ловят. В Arize добавили тесты длинных сессий: загружают десять ходов истории и проверяют одиннадцатый. Для памяти между сессиями подходит тот же приём. Заполните память прошлыми сессиями и задайте вопрос, ответ на который лежит в одной из них.
Стоимость тоже надо мерить. Stefania Druga из Sakana AI гоняла локальные модели на задачах, где ответ лежит на 124-м шаге, а вопрос задают на 500-м. Лучше всех сработал журнал решений с ранжированием: он обошёл и векторный RAG, и работу без памяти. А на задаче, которая целиком помещалась в контекст, память ничего не добавила и только увеличила расходы. Поэтому сначала проверьте, выходит ли задача за пределы окна. Если нет, хватит хорошо собранного контекста.
«В итоге мы загружаем десять ходов и проверяем одиннадцатый, чтобы понять, как справляется контекст.»
what we end up doing is we load ten turns, and then we test the 11th to understand how the context is doing.
«Память не добавила возможностей. Результат с памятью и без неё был одинаковым, память только увеличила затраты.»
the memory actually didn't add more capability. It was the same performance with memory and without memory, and it only added more cost.
Насколько этому можно верить
Большинство спикеров продают память или базу под неё: Oracle, YugabyteDB, Qdrant. Их схемы похожи на описание собственных продуктов, и это стоит держать в голове. В Arize прямо говорят, что долгосрочной памяти у Alyx пока нет, а правило «сто символов с начала, сто с конца» остаётся эвристикой. Цифры Druga проверить проще всего, но это 68 вопросов на двух моделях.
В двух вещах источники сходятся. Большое окно память не заменяет. А память без чистки и проверки со временем начинает врать.


