Varun Krishna — senior principal AI solutions engineer в SambaNova Systems, где работает над enterprise AI инфраструктурой, кибербезопасностью и специализированными языковыми моделями. Автор датасета AttackQA для вопросов и ответов по кибербезопасности из 25 335 примеров с обоснованиями. До SambaNova работал в C3 AI, а его докторская работа в University of Illinois Urbana-Champaign посвящена применению machine learning к безопасности умных сетей.

Он также описывает fine-tuning Llama 3 8B с retrieval для задач кибербезопасности и подход model bundling, при котором несколько моделей работают на общем оборудовании. В воркшопе AI Engineer World's Fair 2024 затрагиваются инференс Llama 3 и enterprise RAG.

Темы докладов: RAG, поиск и эмбеддинги, Инференс, стоимость, открытые модели и Документы, парсинг, OCR.

AI Engineer World's Fair 20241