← Каталог

· AI Engineer World's Fair 2026

Агенты в масштабе: модель MiniMax и инфраструктура для её работы

Agents at Scale: Inside MiniMax's Model and the Infrastructure Behind It

Оптимизация инференса открытой модели продолжается неделями после релиза, а агентные нагрузки с длинным контекстом меняют весь стек: от KV cache до ядер.

  • Оптимизация по дням — по словам авторов, день ноль задаёт список задач по KV cache, attention-ядрам и квантизации, а скорость растёт между днём нуля, седьмым и четырнадцатым днём.
  • Агентные нагрузки меняют стек — вместо чатов с системным промптом в несколько тысяч токенов в модель загружают весь код репозитория, и это требует другой маршрутизации и других ядер.
  • Проверка длинных прогонов на взлом — для задач на 12 часов модель отправляет несколько решений, каждое оценивается на отдельной проверочной выборке, чтобы отличать реальное улучшение от взлома метрики.
  • KV cache как распределённая система — авторы сравнивают задачу с построением распределённого файлового хранилища: где держать кэш, как его находить и переносить между узлами.

Кому полезно: тем, кто выбирает open-weight модель для агентов с длинным контекстом и сам отвечает за инференс.

Статья по теме

Главы

Ещё доклады: Olive Song

Страница спикера →

Похожие доклады