· AI Engineer World's Fair 2026
Агенты в масштабе: модель MiniMax и инфраструктура для её работы
Agents at Scale: Inside MiniMax's Model and the Infrastructure Behind It
Оптимизация инференса открытой модели продолжается неделями после релиза, а агентные нагрузки с длинным контекстом меняют весь стек: от KV cache до ядер.
- Оптимизация по дням — по словам авторов, день ноль задаёт список задач по KV cache, attention-ядрам и квантизации, а скорость растёт между днём нуля, седьмым и четырнадцатым днём.
- Агентные нагрузки меняют стек — вместо чатов с системным промптом в несколько тысяч токенов в модель загружают весь код репозитория, и это требует другой маршрутизации и других ядер.
- Проверка длинных прогонов на взлом — для задач на 12 часов модель отправляет несколько решений, каждое оценивается на отдельной проверочной выборке, чтобы отличать реальное улучшение от взлома метрики.
- KV cache как распределённая система — авторы сравнивают задачу с построением распределённого файлового хранилища: где держать кэш, как его находить и переносить между узлами.
Кому полезно: тем, кто выбирает open-weight модель для агентов с длинным контекстом и сам отвечает за инференс.
Статья по теме
Главы
Ещё доклады: Olive Song
Страница спикера →Похожие доклады
Агенты, которые сами управляют своим инференсом
AI Engineer World's Fair 2026
Близко по содержанию
Состояние дел: почему локальный ИИ и почему именно сейчас
Ahmad Osman, Alex Cheema, Nader Khalil, Joseph Nelson, Matthew Berman
AI Engineer World's Fair 2026
Близко по содержанию


