← Каталог

· AI Engineer Summit 2025

Агенты с состоянием

Stateful Agents — Full Workshop with Packer of Letta and MemGPT

Агенту нужен постоянный состояние вне процесса приложения, потому что LLM не хранит память между вызовами, а сама модель может управлять своей памятью через tool calls.

  • Блоки памяти в контексте — память агента хранится как редактируемые строки в базе; агент переписывает их сам через инструменты, а блок можно расшарить между несколькими агентами, и запись сразу видна всем.
  • Вынос вместо обрезки — при приближении к лимиту контекста (спикер приводит 4K токенов) сервер переносит старые сообщения во внешнее хранилище истории и запускает суммаризацию, поэтому payload не растёт бесконечно.
  • Продолжение цикла по флагу — каждый вызов LLM оформлен как tool call, включая отправку сообщения, а агент продолжает работу, сам выставляя флаг request_heartbeat. По наблюдению спикера, на небольших моделях качество падает при больше чем 12–15 инструментах.
  • Reasoning не возвращается в API — модели вроде R1 не получают собственные рассуждения на следующем шаге, и агент забывает план, который только что построил.

Кому полезно: тем, кто строит агентов с долгой историей взаимодействий и борется с разрастанием контекста.

Статья по теме

Главы

Похожие доклады