Kanish Manuja — principal engineer в Twilio. Он строит production LLM gateways и инфраструктуру conversational AI для клиентских приложений. Ранее работал software engineer в Microsoft над OData, где писал о пагинации через continuation tokens. В Twilio он соавтор патентной заявки на асинхронно формируемые сводки по клиентам с помощью языковой модели.
На основе прототипа голосового агента для ресторана он рекомендует для большинства production-сценариев раздельные стадии speech-to-text, языковой модели и text-to-speech вместо realtime-моделей. На AI Engineer World's Fair 2026 он разбирал компромиссы между availability, latency, guardrails и cost в LLM gateway.
Темы докладов: Инфраструктура и надёжность, Observability и трейсы и Безопасность и governance.
AI Engineer World's Fair 20261
LLM-gateway в production: архитектура, компромиссы и важные уроки
AI Engineer World's Fair 2026