Stephen Hood — соучредитель Telepath, где он разрабатывает адаптивные интерфейсы для персональных агентов. Ранее в Mozilla он был principal open-source AI lead и продвигал llamafile, который упаковывает веса модели и inference-рантайм в один переносимый исполняемый файл, а также поддерживал sqlite-vec, расширение SQLite для vector search. До этого он руководил исследованиями и разработкой поиска в Yahoo, возглавлял Delicious и создал Storium, платформу для совместного письма. В докладе на AI Engineer World's Fair 2024 он рассказывал о llamafile и быстром inference на потребительских CPU.
Темы докладов: Инференс, стоимость, открытые модели.
AI Engineer World's Fair 20241
Llamafile: ИИ для всех благодаря быстрому инференсу на CPU
AI Engineer World's Fair 2024