Charles Frye — member of technical staff в компании Modal, где помогает командам разворачивать и оптимизировать inference нейросетей. Он автор GPU Glossary от Modal, справочника о том, как аппаратное обеспечение GPU влияет на проектирование приложений. Ранее он преподавал в Full Stack Deep Learning, создал чат-бота askFSDL на основе поиска по материалам курса и занимался self-hosting открытых моделей: запустил GLM-130B на восьми GPU. В докладах он рассматривает inference-движки, практическую работу с GPU и self-hosting открытых моделей.
Темы докладов: Инференс, стоимость, открытые модели, Инфраструктура и надёжность, Observability и трейсы, Evals и бенчмарки, Внедрение AI и оргизменения, RAG, поиск и эмбеддинги и Инструменты и протоколы (MCP, A2A).
AI Engineer World's Fair 20261
Что вообще такое движок инференса?
AI Engineer World's Fair 2026
AI Engineer World's Fair 20252
Что каждому AI-инженеру нужно знать о GPU
AI Engineer World's Fair 2025
Насколько быстры движки инференса LLM?
AI Engineer World's Fair 2025
AI Engineer World's Fair 20241
Чему мы научились за год разработки с LLM
Charles Frye, Eugene Yan, Jason Liu, Hamel Husain, Dr Bryan Bischof, Shreya Shankar
AI Engineer World's Fair 2024
AI Engineer Summit 20232
Инженерия ИИ 201: инференс
AI Engineer Summit 2023
AI Engineering 201: всё, что нужно вокруг модели
AI Engineer Summit 2023