· AI Engineer World's Fair 2026
Context engineering в 2026 году: компактизация, память и стоимость
Context Engineering in 2026: Compaction, Memory & Cost
Для AI-тьютора с длинными диалогами полная история с кэшем, по словам авторов, опережает сжатие контекста по памяти, цене и задержке.
- Сжатие ломает кэш — суммаризация даёт новый контекст, который провайдер не может закэшировать. Кэшированные токены у DeepSeek, по словам авторов, стоят до 50 раз дешевле, поэтому сжатие окупается только при степени больше 50.
- Память после сжатия — в тесте на удержание деталей полная история находила нужный факт в 95% случаев, а после сжатия только в 32%.
- Семантический поиск на длинном контексте — dense RAG на 400K токенах перестал находить факты из середины, а BM25 находил их всегда. Поэтому в тьюторе используется гибридный поиск.
- Локальные модели — окно 32K на MacBook не вмещало даже отдельные уроки, и кэш перестал помогать. Для облака авторы выбрали DeepSeek V4 Flash с полной историей до 30K токенов и сжатием после этого порога.
Кому полезно: тем, кто проектирует чат-агента с длинными сессиями и выбирает между сжатием контекста и полной историей с кэшем.
Доклад цитируется в статьях
Главы
Ещё доклады: Louis-François Bouchard
Страница спикера →Превратите 10 994 заметки в память для ваших агентов
Louis-François Bouchard, Paul Iusztin
AI Engineer World's Fair 2026
Создайте собственного Deep Research Agent и технического автора
Louis-François Bouchard, Paul Iusztin, Samridhi Vaid
AI Engineer Europe 2026
Почему тексты ИИ всё ещё выглядят как AI slop
Похожие доклады
Context engineering: связываем точки с помощью графов
AI Engineer Code 2025
Близко по содержанию
Инженерия ИИ 201: инференс
AI Engineer Summit 2023
Близко по содержанию
Готово к слиянию по умолчанию: создаём context engine, который экономит время и токены
AI Engineer Europe 2026
Близко по содержанию



