← Каталог

· AI Engineer World's Fair 2024

Кривая зрелости GenAI (или: вам, вероятно, не нужен fine-tuning)

The GenAI Maturity Curve (or: You Probably Don’t Need Fine-Tuning)

Fine-tuning оправдан, когда промпт-версия уже стабильна и логи продакшен-запросов показывают конкретную задачу, которую стоит специализировать.

  • Fine-tuning сдвигает границу цены и качества — по словам спикера, дообученные Llama 3 70B и 8B обошли все промпт-версии базовых моделей на четырёх задачах, а дообученная модель стоит в 25 раз дешевле GPT-4 при лучшем качестве.
  • Три повода переходить на fine-tuning — стоимость, задержка и стабильность качества; последняя важна, когда модель в большинстве случаев решает задачу, но иногда ломает формат или пропускает инструкцию.
  • Логи продакшен-промптов как обучающая выборка — записывайте каждый запрос в уже существующее хранилище: по нему видно реальное распределение входов, и данные для обучения строятся под него.
  • Многошаговая разметка данных — Mixture-of-Agents дорог и медлен для трафика, но подходит для генерации обучающих примеров, которые затем используются для fine-tuning.

Кому полезно: тем, кто решает, пора ли дообучать модель для стабильной продакшен-задачи с известным потоком запросов.

Статья по теме

Главы

Ещё доклады: Kyle Corbitt

Страница спикера →

Похожие доклады