Как мы создали Zeta2: обучение модели предсказания правок в продакшене
How We Built Zeta2: Training an Edit Prediction Model in Production — Ben Kunkle, Zed
Zed обучил Zeta 2 дистилляцией от frontier-модели и заменил дорогие выборки учителя выборками растущей student-модели.
- Ремонт предсказаний учителя — эвристики отсекают плохие правки (откат только что набранного, выход за границу редактируемой области), и другая модель их исправляет. Результат кэшируется, поэтому формат промпта можно менять без повторной разметки.
- Устоявшееся состояние правки — за итоговый вариант берут код, который пользователь не трогал 10 секунд. Сравнение с предсказаниями по расстоянию Левенштейна отсекает шум, а выборки student-модели, по словам автора, почти ничего не стоят, в отличие от запросов к учителю.
- Лучшие примеры посередине — далёкие от итога примеры это шум, почти совпадающие очевидны, а средние содержат новые функции, которых модели не показывали при обучении.
- Раскатка на долю трафика — новая версия идёт на 15% продакшен-трафика, а решение принимают по acceptance rate, задержке и kept rate. Релиз на базе Seed-Coder вышел как Zeta 2.
Кому полезно: тем, кто обучает небольшую модель под узкую задачу с жёсткой задержкой, например автодополнение в редакторе.
Статья по теме
Главы
Похожие доклады
Обучение Krea 2: что важно при обучении генеративных моделей
AI Engineer World's Fair 2026
Близко по содержанию
CI в эпоху AI: от модульных тестов к стохастическим evals
AI Engineer World's Fair 2025
Близко по содержанию
Что делает открытые модели быстрыми в production
AI Engineer Code 2025
Близко по содержанию
Оценить оценщика: как создавать действительно работающие LLM-оценщики с GEPA
AI Engineer Europe 2026
Близко по содержанию

