← Каталог

· AI Engineer World's Fair 2026

Фронтир ИИ на настольных компьютерах

The Desktop Frontier — Ahmad Osman, Osmantic

Плотность возможностей открытых моделей растёт так быстро, что модель уровня GLM 5.2, по прогнозу автора, поместится на одной RTX 5090 к концу 2027 года.

  • Закон плотности — спикер ссылается на исследование в Nature Machine Intelligence: число параметров, нужных для той же способности, падает примерно вдвое каждые три с половиной месяца. Он предлагает мерить модели показателем impact per parameter, то есть тем, что модель умеет и сколько железа ей нужно.
  • Сдвиг по железу — GLM 4.5 Air год назад требовал четыре RTX 3090 или RTX PRO 6000, а Qwen 3.6 27B, по словам спикера, обгоняет Qwen 3.5 на 397 миллиардов параметров и работает на одной карте.
  • Железо против подписок — по мнению автора, видеокарты со временем запускают более сильные модели и сохраняют цену, а субсидированные облачные токены могут исчезнуть или ограничиться. Nemotron 3 Ultra, по его словам, показал обучение в NVFP4 на доступном железе, что удешевляет fine-tuning.

Кому полезно: тем, кто решает, покупать ли железо под локальный инференс и fine-tuning или оставаться на облачных API.

Статья по теме

Главы

Ещё доклады: Ahmad Osman

Страница спикера →

Похожие доклады