← Каталог

· AI Engineer Summit 2025

RAG Agents в продакшене: 10 уроков, которые мы усвоили

RAG Agents in Prod: 10 Lessons We Learned — Douwe Kiela, creator of RAG

Результат корпоративного RAG задаёт система вокруг языковой модели, поэтому выигрывает команда, которая быстро выводит работающий прототип к реальным пользователям.

  • Система важнее модели — по словам спикера, языковая модель составляет лишь около 20% системы, и менее сильная модель с сильным RAG-конвейером работает лучше сильной модели с плохим.
  • Специализация вместо AGI — на доменных задачах, по его словам, система, заточенная под экспертизу компании, даёт больше универсального ассистента.
  • Продакшен с первого дня — демо на десяти пользователях делается легко, а переход к десяткам тысяч документов и требованиям безопасности и комплаенса сложнее; у Qualcomm система работает для тысяч клиентских инженеров.
  • Атрибуция вместо точности — 100% точности, по словам спикера, не достичь, поэтому ответы должны ссылаться на документ-источник, а в регулируемых отраслях нужен журнал аудита.

Кому полезно: тем, кто переводит RAG-пилот в продакшен в крупной компании.

Статья по теме

Главы

Похожие доклады