Dr. Andrew Davis — chief data scientist в HiddenLayer, где он разрабатывает защиты систем машинного обучения и generative AI от атак. Ранее он создавал детекторы вредоносного ПО в Cylance, Sophos и Elastic; в Elastic он генерировал YARA-правила из вредоносных последовательностей байтов.
Davis известен работами по защите на уровне активаций модели. Вместе с Amelia Kawasaki он написал исследование residual-stream активаций трансформеров для поиска вредоносных промптов и получил патент на мультимодальную защиту на основе активаций. Доклад «Building security around ML» на AI Engineer World's Fair 2024 посвящён защите ML- и мультимодальных систем.
Темы докладов: Безопасность и governance и Observability и трейсы.
AI Engineer World's Fair 20241
Защита систем машинного обучения
AI Engineer World's Fair 2024