Bohan Li работает Staff Software Engineer в EliseAI, где развивает инфраструктуру голосовых агентов для разговоров в сферах жилья и здравоохранения. До этого он создавал системы с низкой задержкой для беспилотных автомобилей и торговых платформ. Его текущая задача в том, чтобы голосовые агенты отвечали быстро и при этом сохраняли возможности сильных языковых моделей. В докладе он рассказывает о снижении задержки в каскадных голосовых агентах, которые используют медленные языковые модели.
Темы докладов: Голосовые агенты и речь и Паттерны построения агентов.