Rachelle Mattern — директор отдела solutions engineering в SambaNova Systems по данным на 2024 год. Она занимается внедрением специализированных языковых моделей в корпоративной среде с контролем данных, операций и стоимости. Известна объяснением подхода Composition of Experts на платформе Samba-1: несколько специализированных моделей работают за одной защищённой точкой доступа, а доступ к каждой ограничивается по командам и приложениям. Она также связывала оркестрацию моделей с трёхуровневой памятью SN40L. Доклады на AI Engineer World's Fair 2024 посвящены инференсу Llama 3 на платформе SambaNova и построению RAG-приложений по документам.

Темы докладов: RAG, поиск и эмбеддинги, Инференс, стоимость, открытые модели и Документы, парсинг, OCR.

AI Engineer World's Fair 20242