Leo Pekelis — прикладной статистик и исследователь в области AI. В 2024 году он стал chief scientist в Gradient, позже вместе с DeepSky перешёл в Airtable. Он участвовал в создании Optimizely Stats Engine для последовательного тестирования A/B-экспериментов и в разработке Albatross, финансовой языковой модели на основе Llama 2, а также открытой модели Llama 3 с контекстным окном в миллион токенов. В докладе на AI Engineer World's Fair 2024 он рассказывает об обучении Albatross и сравнивает long-context подход с retrieval.
Темы докладов: Обучение, RL, дообучение и Инференс, стоимость, открытые модели.
AI Engineer World's Fair 20241
Обучение Albatross: экспертной языковой модели для финансов
AI Engineer World's Fair 2024