Max Ryabinin — vice president of model shaping в Together AI, где занимается инфраструктурой для обучения, кастомизации и развёртывания языковых моделей. Он соавтор Hivemind, open source библиотеки на PyTorch для децентрализованного обучения, и участвовал в создании Petals, которая распределяет инференс больших моделей между компьютерами в интернете. Ранее возглавлял инженерную рабочую группу BigScience, где создавалась модель BLOOM. В докладе он рассказывает о снижении потребления памяти при обучении трансформеров с контекстом в пять миллионов токенов.

Темы докладов: Обучение, RL, дообучение и Инфраструктура и надёжность.

AI Engineer Europe 20261