Как по-настоящему оптимизировать расход токенов и сэкономить миллионы
AI Engineer NYC 2026 Online Talks
Загружаем страницу…
1–24 из 304
Как модели обучают, запускают и куда они развиваются: fine-tuning и RL, inference и стоимость, открытые и локальные модели, world models и робототехника.
В разделе доклады исследователей и инженеров из Google DeepMind, NVIDIA, BAAI и компаний, которые обучают модели под себя. Одни рассказывают о данных и средах для обучения, другие о том, как выжать больше из того же GPU и сколько на самом деле стоят токены.

Считайте стоимость решённой задачи, а не цену токена: дешёвая модель часто тратит больше. Сначала разнесите расходы по агентам и задачам, потом берегите кэш промпта, подбирайте модель под задачу по evals и ограничивайте циклы агента.

Для локального запуска есть llama.cpp и надстройки над ним: llamafile, Ollama, LM Studio, а на Mac ещё MLX. Модель выбирают под память компьютера, в квантованной версии. Скорость ответа упирается в пропускную способность памяти, поэтому большая модель на слабом железе работает, но медленно.
AI Engineer NYC 2026 Online Talks
AI Engineer Code 2025
С API проще начать, и через него доступны самые сильные модели. Открытые модели выбирают ради стоимости на больших объёмах, контроля над данными и возможности дообучить модель под задачу. Многие спикеры совмещают оба варианта: простые запросы идут на малую модель, сложные на передовую.
Чаще нет. Сначала пробуют промпты, RAG и хорошие инструменты. Fine-tuning окупается, когда задача узкая и массовая, когда нужна дешёвая малая модель вместо большой или когда поведение не удаётся задать промптом.
BAAI Conference 2026 · 北京智源大会
AI Engineer World's Fair 2026
AI Engineer Code 2026
AI Engineer Europe 2026
AI Engineer Code 2025
AI Engineer World's Fair 2026
Corby Rosset, Miguel González Fernández
Min Zhao, Mingyang Deng, Sida Peng, Tengfei Wang, Yu Cheng, Ailing Zeng
BAAI Conference 2026 · 北京智源大会
AI Engineer World's Fair 2025
AI Engineer Europe 2026
AI Engineer World's Fair 2026
AI Engineer Code 2026
21:01Apsara Conference 2026 · 云栖大会
Yonghua Lin, Kai Chang, Di Luo, Wei Liu, Huimin Cui, Chunlei Men, Zhi Yang
BAAI Conference 2026 · 北京智源大会
AI Engineer World's Fair 2026
AI Engineer Europe 2026
15:47Apsara Conference 2026 · 云栖大会
Rohan Pandey, Balaji Varadarajan
AI Engineer Code 2026
AI Engineer Code 2025