· AI Engineer World's Fair 2026
Фронтир ИИ на настольных компьютерах
The Desktop Frontier — Ahmad Osman, Osmantic
Плотность возможностей открытых моделей растёт так быстро, что модель уровня GLM 5.2, по прогнозу автора, поместится на одной RTX 5090 к концу 2027 года.
- Закон плотности — спикер ссылается на исследование в Nature Machine Intelligence: число параметров, нужных для той же способности, падает примерно вдвое каждые три с половиной месяца. Он предлагает мерить модели показателем impact per parameter, то есть тем, что модель умеет и сколько железа ей нужно.
- Сдвиг по железу — GLM 4.5 Air год назад требовал четыре RTX 3090 или RTX PRO 6000, а Qwen 3.6 27B, по словам спикера, обгоняет Qwen 3.5 на 397 миллиардов параметров и работает на одной карте.
- Железо против подписок — по мнению автора, видеокарты со временем запускают более сильные модели и сохраняют цену, а субсидированные облачные токены могут исчезнуть или ограничиться. Nemotron 3 Ultra, по его словам, показал обучение в NVFP4 на доступном железе, что удешевляет fine-tuning.
Кому полезно: тем, кто решает, покупать ли железо под локальный инференс и fine-tuning или оставаться на облачных API.
Статья по теме
Главы
Ещё доклады: Ahmad Osman
Страница спикера →Состояние дел: почему локальный ИИ и почему именно сейчас
Ahmad Osman, Alex Cheema, Nader Khalil, Joseph Nelson, Matthew Berman
AI Engineer World's Fair 2026
Похожие доклады
Результаты frontier-уровня на устройстве
AI Engineer World's Fair 2026
Близко по содержанию
Тот же GPU — на 50% больше результата: почему важен оператор
Близко по содержанию
Преодоление гигагерцевого барьера в ИИ
AI Engineer World's Fair 2024
Близко по содержанию

