← Каталог

· AI Engineer World's Fair 2025

Без GPU, без доверия, без ограничений: переосмысление конфиденциального облака для ИИ

GPU-less, Trust-less, Limit-less: Reimagining the Confidential AI Cloud

Модели можно обучать и запускать на чужом железе так, чтобы ни владелец машины, ни партнёры не видели данные и веса: это дают TEE с криптографической аттестацией.

  • Аттестация вместо доверия — TEE выдаёт подписанное аппаратное доказательство, что код выполнился внутри защищённого процессора без изменений; при многостороннем обучении загрузчик сверяет хеши движка и датасетов и останавливает задачу при расхождении.
  • Обучение без доступа к данным — в кейсе Realeyes для Mars провайдеры, по словам авторов, отдали в четыре раза больше видео, обучающая выборка выросла на 319%, а точность достигла 75%.
  • Аудит за часы — в кейсе BEL, по словам авторов, проверка документации для FDA сократилась с недель до одного-двух часов, а задержки из-за повторной проверки отпали.
  • Распределённый инференс — vLLM делит модель по слоям между GPU-узлами разных владельцев, а обмен активациями идёт по зашифрованной overlay-сети внутри TEE.

Кому полезно: тем, кто обучает модели на закрытых данных с внешними партнёрами. Доклад в основном презентация продукта Super Protocol, но часть про аттестацию и многостороннее обучение применима и без него.

Статья по теме

Главы

Похожие доклады