· AI Engineer World's Fair 2024
RAG и документная модель MongoDB
RAG and the MongoDB Document Model
Эмбеддинги хранятся прямо в документах MongoDB рядом с данными приложения, поэтому RAG-контекст можно собирать из тех же объектов, что обслуживают продукт.
- Векторный индекс в той же коллекции — поле с эмбеддингом добавляется в документ, HNSW-индекс строится автоматически и синхронизируется при обновлении данных; поддерживаются векторы до 4096 измерений.
- numCandidates управляет точностью — это число входных точек в граф HNSW: больше точек дают точнее результаты ценой скорости. Фильтр в
$vectorSearchработает как предфильтр во время обхода графа. - Search nodes отдельно от транзакционных — векторные индексы живут на отдельных узлах и масштабируются независимо от основного кластера. По словам спикера, это позволяет подбирать ресурсы под нагрузку поиска.
- Семантический кэш в LangChain — MongoDB служит бэкендом кэша: при попадании по семантическому сходству ответ берётся из кэша без вызова LLM. Цифр экономии в докладе нет.
Кому полезно: тем, кто уже хранит данные приложения в MongoDB и думает, нужна ли отдельная векторная база. Доклад по сути презентация продукта, полезная часть — схема запроса и настройка numCandidates.
Статья по теме
Главы
Похожие доклады
Хватит нарезать данные как в 2022 году
AI Engineer World's Fair 2026
Близко по содержанию
RAG нужна карта: как GraphRAG извлекает связанный контекст
AI Engineer World's Fair 2026
Близко по содержанию
Архитектура памяти агентов: принципы, паттерны и лучшие практики
AI Engineer World's Fair 2025
Близко по содержанию
Масштабирование корпоративных RAG-систем: опыт в юридической сфере
AI Engineer World's Fair 2025
Близко по содержанию

