Yuval Belfer работает Sr. Developer Advocate в AI21 Labs. Он рассказывает о моделях Jamba, которые сочетают attention и слои state-space Mamba. Вместе с Asaf Gardin он представил разбор бага в vLLM, который проявлялся только при большой нагрузке.

Среди его других докладов есть планирование агентов в AI21 Maestro и оценка RAG-систем. Его темы: как выбор размера чанков и устройство инференса влияют на результаты AI-приложений.

Темы докладов: RAG, поиск и эмбеддинги, Evals и бенчмарки, Инфраструктура и надёжность, Инференс, стоимость, открытые модели, Мультиагентность и оркестрация и Паттерны построения агентов.

AI Engineer World's Fair 20262

AI Engineer World's Fair 20252