← Каталог

· AI Engineer Summit 2025

Для чего вообще используют open models?

WTF do people use Open Models for??

Открытые модели в продакшене годами работают на старых стабильных версиях, потому что смена модели ломает уже отлаженную систему.

  • Стабильность важнее новизны — корпоративные системы годами не меняют модель: Mistral NeMo 12B старше восьми месяцев, но её всё ещё используют крупные клиенты, а Llama 2 Guard, по данным платформы, даёт около 2% нагрузки.
  • Coding агенты съедают токены — по словам спикера, разработчик в vibe coding генерирует примерно в 1000 раз больше трафика, чем пользователь чата-компаньона, а доля кодинга выросла с менее 5% до 20–30% трафика.
  • Человек в контуре с первого дня — агент для писем черновит 80–90% ответов, а человек правит остальное; по словам спикера, последовательные циклы доработки по 80–90% дают около 99,998% надёжности.

Кому полезно: тем, кто выводит агентов в продакшен в компаниях с высокими рисками и выбирает, на какой версии модели фиксироваться. Заметная часть доклада посвящена презентации платформы Featherless.ai.

Доклад цитируется в статьях

Главы

Ещё доклады: Eugene Cheah

Страница спикера →

Похожие доклады