David Abitbol руководит направлением AI operations в Revolut и помогает командам компании строить и использовать ИИ. Он развивает общую инфраструктуру: единый шлюз к языковым моделям, платформу для развёртывания и эксплуатации систем машинного обучения и переиспользуемые фреймворки. Для инженеров компания обслуживает модели GLM на выделенных GPU примерно для 2000 человек. В докладах он говорит о self-hosted моделях для кодинга и о времени от старта фичи до её слияния и готовности к деплою.

Темы докладов: Инференс, стоимость, открытые модели, Инфраструктура и надёжность и Безопасность и governance.

Другое1