Pedro Torruella — старший инженер-разработчик в команде software compilers NVIDIA. Он занимается оптимизацией GPU kernel и применением методов машинного обучения в стеке GPU-программирования. Он соавтор NVIDIA CompileIQ, фреймворка для CUDA 13.3, который автоматически подбирает решения компилятора под конкретную нагрузку.
Ранее он работал в developer relations компании OctoAI, помогал разработчикам внедрять open source языковые модели и написал интеграцию embeddings для LlamaIndex. До этого занимался обработкой видео в реальном времени, руководил программами и основал стартап. Доклад на AI Engineer World's Fair 2024 посвящён тонкой настройке небольших моделей Llama 3 под специализированные задачи.
Темы докладов: Обучение, RL, дообучение, Evals и бенчмарки и Инференс, стоимость, открытые модели.
AI Engineer World's Fair 20241
Практикум по оптимизации качества LLM
Pedro Torruella, Thierry Moreau
AI Engineer World's Fair 2024