Yunmo Koo — founding engineer в FriendliAI, где работает над обучением и инференсом языковых моделей. Он руководил первой версией платформы распределённого обучения PeriFlow на GPU нескольких облаков и участвовал в обучении модели GPT-FAI 13B. Позже развивал inference: adaptive speculative decoding с онлайн-обучением драфт-модели, управление памятью и планированием в runtime, интеграции с LangChain и LlamaIndex. Ранее был соавтором системы Terra, опубликованной на NeurIPS в 2021 году. В докладе он рассказывает, как выбор провайдера инференса влияет на скорость и надёжность агентов.
Темы докладов: Инференс, стоимость, открытые модели и Инфраструктура и надёжность.
AI Engineer World's Fair 20261
Одна модель — разная скорость: почему важен провайдер инференса
AI Engineer World's Fair 2026