· AI Engineer World's Fair 2024
Кривая зрелости GenAI (или: вам, вероятно, не нужен fine-tuning)
The GenAI Maturity Curve (or: You Probably Don’t Need Fine-Tuning)
Fine-tuning оправдан, когда промпт-версия уже стабильна и логи продакшен-запросов показывают конкретную задачу, которую стоит специализировать.
- Fine-tuning сдвигает границу цены и качества — по словам спикера, дообученные Llama 3 70B и 8B обошли все промпт-версии базовых моделей на четырёх задачах, а дообученная модель стоит в 25 раз дешевле GPT-4 при лучшем качестве.
- Три повода переходить на fine-tuning — стоимость, задержка и стабильность качества; последняя важна, когда модель в большинстве случаев решает задачу, но иногда ломает формат или пропускает инструкцию.
- Логи продакшен-промптов как обучающая выборка — записывайте каждый запрос в уже существующее хранилище: по нему видно реальное распределение входов, и данные для обучения строятся под него.
- Многошаговая разметка данных — Mixture-of-Agents дорог и медлен для трафика, но подходит для генерации обучающих примеров, которые затем используются для fine-tuning.
Кому полезно: тем, кто решает, пора ли дообучать модель для стабильной продакшен-задачи с известным потоком запросов.
Статья по теме
Главы
Ещё доклады: Kyle Corbitt
Страница спикера →Как мы масштабировали 500 млн AI agents в production силами двух инженеров
AI Engineer Summit 2025
Как обучить агента: создание надёжных агентов с помощью RL
AI Engineer World's Fair 2025
Похожие доклады
Адаптация и fine-tuning LLM для специализированных областей
AI Engineer Summit 2023
Близко по содержанию
Инженерия ИИ 201: инференс
AI Engineer Summit 2023
Близко по содержанию
Всё, что нужно знать о fine-tuning и объединении LLM
AI Engineer World's Fair 2024
Близко по содержанию

