· AI Engineer World's Fair 2026
Непрерывное обучение в корпоративной среде
Bringing Continual Learning into Enterprises
Дистилляция на собственных трассах агента может улучшать поведение модели без эталонных ответов, и онлайн-подсказки здесь работают заметно лучше офлайновых.
- Подсказка для завершения задач — на SWE-bench модель Qwen3.5 Thinking начала чаще вызывать инструмент завершения: по словам спикера, доля вызовов выросла примерно с 22% до 60%, а процент прохождения тестов не упал. Один шаг on-policy сверху дал больший рост итогового pass rate.
- Онлайн-подсказка для формата — в кодинг-агенте доля правильно оформленных ссылок выросла примерно с 15% до 80%, тогда как одна подсказка для всех rollout дала лишь небольшой рост.
- Подсказка по шагам — судья выбирает, в каком месте траектории вставить подсказку, и дистилляция идёт по следующему шагу или нескольким, а не по всей траектории. Сигнал обучения, по данным спикера, падает по мере удаления от подсказки.
- Relevance-masked self-distillation — LLM-судья выбирает токены учителя, с которых учится студент, и отсекает служебные слова вроде связок. По словам спикера, так удаётся выучить сильно нестандартное поведение с меньшей деградацией.
Кому полезно: тем, кто дообучает агентов на продакшен-трассах и хочет улучшать их без размеченных эталонов.
Статья по теме
Главы
Похожие доклады
Масштабирование непрерывного обучения
AI Engineer World's Fair 2026
Близко по содержанию
Обучение с подкреплением без проверяемых наград
AI Engineer World's Fair 2026
Близко по содержанию
Современный post-training: подробный разбор
AI Engineer World's Fair 2026
Близко по содержанию
Эффективное обучение с подкреплением
AI Engineer Code 2025
Близко по содержанию

