· AI Engineer World's Fair 2026
После 200 миллионов взаимодействий с пациентами: что упускает универсальный голосовой стек
200 Million Patient Interactions Later: What the Generic Voice Stack Misses
Массовый обзвон пациентов голосовым агентом становится, по словам авторов, безопасным при связке из 31 модели с клинической проверкой, а не одной модели.
- Цена ошибки в медицине — при 10 тысячах звонков в день 1% ошибок означает сотню пациентов с неверной записью, поэтому спикер опирается на живых клиницистов: около 7 тысяч обученных специалистов разметили около 800 тысяч разговоров, а синтетических данных для такой статистики, по его словам, недостаточно.
- Параллельные специалисты — центральная модель и 30 специалистов работают одновременно, и каждый сначала быстро решает, нужно ли ему говорить; фоновые верификаторы проверяют параметры tool calls.
- Контекстный ASR — decoder-only аудио LLM на базе дообученного Whisper large-v3-turbo получает историю разговора и список лекарств, что сужает выбор слов; по словам спикера, медицинский WER снизился больше чем на 50% относительно готовых моделей.
- Инференс без потери качества — 4-битная квантизация, speculative decoding и сжатие KV cache с попаданием в кэш выше 96% и prefill в 18 раз быстрее; спикер утверждает, что оптимизации не меняют качество вывода.
Кому полезно: тем, кто выводит голосовых агентов в продакшен там, где ошибка стоит дорого, например в медицине.
Статья по теме
Главы
Ещё доклады: Vivek Muppalla
Страница спикера →Cohere для руководителей AI-направлений
AI Engineer World's Fair 2024
Похожие доклады
Разработка голосовых агентов: задержка, качество и масштабирование
AI Engineer Europe 2026
Близко по содержанию
Голос на входе, визуализация на выходе: агония и экстаз
AI Engineer World's Fair 2026
Близко по содержанию
Голосовые агенты в реальном времени с интеллектом frontier-моделей
Близко по содержанию
Как создавать голосовых агентов, которые не теряются, когда их перебивают
Близко по содержанию

