Для чего вообще используют open models?
WTF do people use Open Models for??
Открытые модели в продакшене годами работают на старых стабильных версиях, потому что смена модели ломает уже отлаженную систему.
- Стабильность важнее новизны — корпоративные системы годами не меняют модель: Mistral NeMo 12B старше восьми месяцев, но её всё ещё используют крупные клиенты, а Llama 2 Guard, по данным платформы, даёт около 2% нагрузки.
- Coding агенты съедают токены — по словам спикера, разработчик в vibe coding генерирует примерно в 1000 раз больше трафика, чем пользователь чата-компаньона, а доля кодинга выросла с менее 5% до 20–30% трафика.
- Человек в контуре с первого дня — агент для писем черновит 80–90% ответов, а человек правит остальное; по словам спикера, последовательные циклы доработки по 80–90% дают около 99,998% надёжности.
Кому полезно: тем, кто выводит агентов в продакшен в компаниях с высокими рисками и выбирает, на какой версии модели фиксироваться. Заметная часть доклада посвящена презентации платформы Featherless.ai.
Доклад цитируется в статьях
Главы
Ещё доклады: Eugene Cheah
Страница спикера →Похожие доклады
2025 год в мире LLM на примере пеликанов на велосипедах
AI Engineer World's Fair 2025
Близко по содержанию
Как создавать AI-приложения с миллионами пользователей на OSS-моделях
AI Engineer World's Fair 2025
Близко по содержанию
Суверенный рывок: контроль над моделями с открытыми весами
AI Engineer Europe 2026
Близко по содержанию
Moondream: как такая маленькая vision-модель так круто справляется?
AI Engineer World's Fair 2024
Близко по содержанию

