Как мы решили проблему управления контекстом в агентах
How We Solved Context Management in Agents — Sally-Ann DeLucia
Управление контекстом в агенте Alyx, по словам авторов, держится на обрезке начала и конца с выносом середины в память, а суммаризация через LLM оказалась ненадёжной.
- Обрезка вместо суммаризации — команда сначала брала первые 100 символов и теряла связность диалога, затем оставила начало и конец, а середину сохранила в хранилище, откуда агент может её достать. Суммаризация не давала контроля над тем, что важно.
- Тесты длинных сессий — загружают десять ходов диалога и проверяют одиннадцатый, поэтому ошибки памяти находятся до жалоб пользователей.
- Субагенты для тяжёлых данных — поиск по данным trace и span уходит в отдельного субагента, а главный диалог остаётся лёгким и получает только результат.
- Долгая память пока не решена — сессии выросли с менее десяти ходов до двадцати и больше, а долговременная память, по словам спикера, в разработке; контекст сейчас лежит в базе с ID, и агент получает превью через инструмент.
Кому полезно: тем, кто строит агентов с длинными диалогами и большими входными данными, например инструментов поверх логов и trace-данных.
Доклад цитируется в статьях
Главы
Ещё доклады: Sally-Ann DeLucia
Страница спикера →Похожие доклады
Хватит нянчиться с агентами: создаём context engine для кода, готового к слиянию
AI Engineer Europe 2026
Близко по содержанию
Как создать обучающуюся память для AI agents
AI Engineer World's Fair 2026
Близко по содержанию
От контекста к памяти: вашим agents нужен полноценный слой памяти
AI Engineer World's Fair 2026
Близко по содержанию

