Rachelle Mattern — директор отдела solutions engineering в SambaNova Systems по данным на 2024 год. Она занимается внедрением специализированных языковых моделей в корпоративной среде с контролем данных, операций и стоимости. Известна объяснением подхода Composition of Experts на платформе Samba-1: несколько специализированных моделей работают за одной защищённой точкой доступа, а доступ к каждой ограничивается по командам и приложениям. Она также связывала оркестрацию моделей с трёхуровневой памятью SN40L. Доклады на AI Engineer World's Fair 2024 посвящены инференсу Llama 3 на платформе SambaNova и построению RAG-приложений по документам.
Темы докладов: RAG, поиск и эмбеддинги, Инференс, стоимость, открытые модели и Документы, парсинг, OCR.
AI Engineer World's Fair 20242
Llama 3 со скоростью 1000 токенов/с на AI-платформе SambaNova
Rachelle Mattern, Petro Milan, Varun Krishna
AI Engineer World's Fair 2024
Создание корпоративных приложений генеративного ИИ на Llama-3 со скоростью 1 000 токенов/с на платформе SambaNova
Rachelle Mattern, Petro Junior Milan, Varun Badrinath Krishna
AI Engineer World's Fair 2024