← Каталог

· AI Engineer World's Fair 2026

Задержка — это бюджет. Цель — общение как у людей

Latency Is a Budget. Humanlike Is the Goal. — Jesse Hall, LiveKit

Голосового агента выбирают не по лидербордам компонентов, а по задержке до первого слышимого звука и по итогам целого разговора.

  • Слышимая задержка — TTS-провайдеры быстро отдают первый байт, но перед речью могут выдавать до 750 мс тишины, поэтому замерять нужно момент, когда звонящий реально слышит ответ. По ориентиру спикера, верхняя граница разговора около 1,5 секунды, человекоподобная цель около 600 мс.
  • Turn detection по аудио — детектор, который смотрит на интонацию, по словам автора, прерывает звонящего в 4,5% случаев против 9,9% у лучшей альтернативы при том же бюджете задержки.
  • Асинхронные инструменты — всё, что занимает больше секунды, уходит в фон: первый апдейт возвращает агенту микрофон, и разговор не останавливается.
  • Бенчмарк целых агентов — открытый код от LiveKit с симулированными звонящими, которые перебивают и передумывают. Оценивают итоговую бронь в базе и ошибки безопасности, а лишние вопросы и шаги снижают оценку.

Кому полезно: тем, кто выводит голосовых агентов в продакшен и выбирает для них STT, LLM и TTS.

Доклад цитируется в статьях

Главы

Ещё доклады: Jesse Hall

Страница спикера →

Похожие доклады