← Каталог

· AI Engineer World's Fair 2026

Локальные модели: доверие, контроль и оптимизация

Local Models: Trust, Control, Optimization

Carter Abdallah, Chris Alexiuk и ещё 2 спикераВсе 4Свернуть

Открытые модели дают контроль над стоимостью и поведением, а дообучение под свой harness по словам участников обгоняет закрытые API на узких задачах.

  • Дообучение под свой harness — по словам спикеров, модель, настроенная под конкретный harness, работает лучше универсальной. Prime Intellect рассказывает о Ramp, который за одну-две недели получил специализированную модель для финансовой автоматизации, по словам спикеров, обгоняющую Opus при стоимости ниже Haiku.
  • Трейсы как данные для обучения — при открытых моделях можно сохранять трейсы работы в своём harness и обучать на них меньшую модель, а условия использования закрытых провайдеров обычно запрещают обучение на их выводах.
  • Непрерывное обучение с продакшена — сначала RL-окружение под конкретную задачу, затем развёртывание для реальных пользователей и дообучение на их трейсах. По словам спикеров, так строится маховик данных для компьютерного использования.
  • Эффективность инференса — открытая экосистема, включая vLLM и NVIDIA, снижает стоимость обучения и инференса, а закрытые провайдеры могут не передавать экономию. Большинству задач, по словам спикеров, не нужна frontier-модель.

Кому полезно: тем, кто дообучает открытые модели под собственный агентный harness или выводит агентов в продакшен.

Статья по теме

Главы

Ещё доклады: Carter Abdallah

Страница спикера →

Ещё доклады: Chris Alexiuk

Страница спикера →

Похожие доклады