Tyler Gillam — software engineer в DigitalOcean. Он участвовал в создании Inference Router, который выбирает языковую модель для каждого запроса с учётом задачи, стоимости, задержки и предпочтений разработчика. Архитектура маршрутизации сочетает open source прокси Plano с собственной моделью для выбора модели, а конфигурацию можно проверять и менять. В докладе на AI Engineer World's Fair 2026 он говорит о настраиваемом выборе моделей и о том, как его оценивать.

Темы докладов: Инференс, стоимость, открытые модели и Evals и бенчмарки.

AI Engineer World's Fair 20261