← Каталог

· AI Engineer Europe 2026

Как мы решили проблему управления контекстом в агентах

How We Solved Context Management in Agents — Sally-Ann DeLucia

Управление контекстом в агенте Alyx, по словам авторов, держится на обрезке начала и конца с выносом середины в память, а суммаризация через LLM оказалась ненадёжной.

  • Обрезка вместо суммаризации — команда сначала брала первые 100 символов и теряла связность диалога, затем оставила начало и конец, а середину сохранила в хранилище, откуда агент может её достать. Суммаризация не давала контроля над тем, что важно.
  • Тесты длинных сессий — загружают десять ходов диалога и проверяют одиннадцатый, поэтому ошибки памяти находятся до жалоб пользователей.
  • Субагенты для тяжёлых данных — поиск по данным trace и span уходит в отдельного субагента, а главный диалог остаётся лёгким и получает только результат.
  • Долгая память пока не решена — сессии выросли с менее десяти ходов до двадцати и больше, а долговременная память, по словам спикера, в разработке; контекст сейчас лежит в базе с ID, и агент получает превью через инструмент.

Кому полезно: тем, кто строит агентов с длинными диалогами и большими входными данными, например инструментов поверх логов и trace-данных.

Доклад цитируется в статьях

Главы

Ещё доклады: Sally-Ann DeLucia

Страница спикера →

Похожие доклады