Yuchen Fama — senior principal product manager for inference в Red Hat, где занимается open source inference. Она участвует в проектах vLLM и GuideLLM и соавтор руководства по distributed inference. Ранее она была chief product officer в Normal Computing, руководила AI-продуктами и затем продуктом в Clarifai, а в страховании занималась аналитикой в Travelers и Hartford Steam Boiler.
Совместно с Ashish Kamra она изучает обслуживание агентных нагрузок, в том числе исследование GLM-5.2 на H200 с трассами Claude Code. Их доклад на AI Engineer World's Fair 2026 посвящён KV cache-aware routing и prefill/decode disaggregation для agentic inference.
Темы докладов: Инфраструктура и надёжность и Инференс, стоимость, открытые модели.
AI Engineer World's Fair 20261
Маршрутизация с учётом KV cache и разделение prefill/decode в Kubernetes
AI Engineer World's Fair 2026