Justine Tunney работает в Mozilla. Известна open-source проектами llamafile и Cosmopolitan Libc, которые упаковывают большие языковые модели и их рантайм в переносимые исполняемые файлы, работающие на Windows, macOS, Linux и BSD. llamafile объединяет Cosmopolitan с llama.cpp и позволяет запускать совместимые модели локально, без установки и подключения к интернету. Раньше она работала в Google над Nomulus, Bazel, TensorFlow и TensorBoard. Её доклад на AI Engineer World's Fair 2024 посвящён быстрому инференсу на CPU и запуску моделей на обычных компьютерах.
Темы докладов: Инференс, стоимость, открытые модели.
AI Engineer World's Fair 20241
Llamafile: ИИ для всех благодаря быстрому инференсу на CPU
AI Engineer World's Fair 2024