← Каталог

· AI Engineer World's Fair 2026

После 200 миллионов взаимодействий с пациентами: что упускает универсальный голосовой стек

200 Million Patient Interactions Later: What the Generic Voice Stack Misses

Массовый обзвон пациентов голосовым агентом становится, по словам авторов, безопасным при связке из 31 модели с клинической проверкой, а не одной модели.

  • Цена ошибки в медицине — при 10 тысячах звонков в день 1% ошибок означает сотню пациентов с неверной записью, поэтому спикер опирается на живых клиницистов: около 7 тысяч обученных специалистов разметили около 800 тысяч разговоров, а синтетических данных для такой статистики, по его словам, недостаточно.
  • Параллельные специалисты — центральная модель и 30 специалистов работают одновременно, и каждый сначала быстро решает, нужно ли ему говорить; фоновые верификаторы проверяют параметры tool calls.
  • Контекстный ASR — decoder-only аудио LLM на базе дообученного Whisper large-v3-turbo получает историю разговора и список лекарств, что сужает выбор слов; по словам спикера, медицинский WER снизился больше чем на 50% относительно готовых моделей.
  • Инференс без потери качества — 4-битная квантизация, speculative decoding и сжатие KV cache с попаданием в кэш выше 96% и prefill в 18 раз быстрее; спикер утверждает, что оптимизации не меняют качество вывода.

Кому полезно: тем, кто выводит голосовых агентов в продакшен там, где ошибка стоит дорого, например в медицине.

Статья по теме

Главы

Ещё доклады: Vivek Muppalla

Страница спикера →

Похожие доклады