Stephen Hood — соучредитель Telepath, где он разрабатывает адаптивные интерфейсы для персональных агентов. Ранее в Mozilla он был principal open-source AI lead и продвигал llamafile, который упаковывает веса модели и inference-рантайм в один переносимый исполняемый файл, а также поддерживал sqlite-vec, расширение SQLite для vector search. До этого он руководил исследованиями и разработкой поиска в Yahoo, возглавлял Delicious и создал Storium, платформу для совместного письма. В докладе на AI Engineer World's Fair 2024 он рассказывал о llamafile и быстром inference на потребительских CPU.

Темы докладов: Инференс, стоимость, открытые модели.

AI Engineer World's Fair 20241