← Каталог

Ваша компания должна обучать собственные AI-модели

Your Company Should Train Its Own AI Models - Will Brown, Prime Intellect

Компания может дообучать открытые модели на собственных трейсах и решениях людей, чтобы знания о процессах копились в весах, а не заново подгружались в контекст каждый раз.

  • Агенты заново учатся на каждом запуске — они получают знания из файлов Skills и контекста, платят за входные токены и не получают неявных знаний, которые живут у сотрудников. Спикер считает, что такие знания переносятся в модель только через обучение.
  • Трейсы как основа evals — промпты и отзывы из продакшена копятся сами собой. Из них строятся тесты для модели, которыми можно управлять так же, как тестами в кодовой базе, а агенты всё лучше помогают их курировать.
  • Маршрутизация на маленькую модель — если большая и маленькая модель дают одинаковый результат на задаче с понятной оценкой, такие задачи можно отправлять маленькой. Одобрения и правки людей по той же логике становятся данными для decision model; по словам спикера, это можно подключить уже сейчас.
  • Ночное обучение на простаивающей мощности — в внутреннем прототипе Prime Intellect inference-мощность днём обслуживает агентов, а ночью запускает дообучение по помеченным трейсам.

Кому полезно: тем, кто ведёт агентов в продакшене с большим объёмом повторяющихся задач и хочет, чтобы знания о процессах не терялись между запусками.

Главы

Ещё доклады: Will Brown

Все 5 докладов →

Похожие доклады