Thierry Moreau — инженер NVIDIA и соучредитель OctoAI, компании по инфраструктуре для генеративного AI, которую NVIDIA приобрела в 2024 году. Он соавтор исследования Apache TVM и руководил архитектурой Versatile Tensor Accelerator, открытого настраиваемого ускорителя, интегрированного с TVM. Компания начинала как OctoML, занимавшаяся компиляцией и развёртыванием моделей машинного обучения. В докладе на AI Engineer World's Fair 2024 он рассказывает о дообучении небольших моделей Llama 3 для function calling, классификации и маскирования персональных данных.

Темы докладов: Обучение, RL, дообучение, Evals и бенчмарки и Инференс, стоимость, открытые модели.

AI Engineer World's Fair 20241