Daniel Svonava — CEO и сооснователь Superlinked, компании, которая разрабатывает инфраструктуру для поиска по сложным данным и запуска специализированных open source моделей в облаке заказчика. До этого он шесть лет работал в Google над ML-инфраструктурой для YouTube Ads. Вместе с Ben Gutkovich он основал Superlinked, а в марте 2024 года компания привлекла seed-раунд $9,5 млн. Сейчас команда развивает Superlinked Inference Engine (SIE), движок под лицензией Apache-2.0, который обслуживает разные модели в одной системе, в том числе в закрытом контуре. В докладе он говорит о запуске множества небольших моделей на общем парке GPU.

Темы докладов: Инференс, стоимость, открытые модели и Инфраструктура и надёжность.

Другое1