Эффективные гибридные запросы к контексту для grounding LLM
AI Engineer Summit 2023
Загружаем страницу…
Как дать LLM доступ к своим данным: RAG, поиск, разбор документов и графы знаний.
Доклады идут от простого RAG к тому, что делать, когда он перестал справляться: hybrid search и reranking, агентный поиск, разбор сложных PDF и сканов, GraphRAG и онтологии. Спикеры из BlackRock, Bridgewater, DoorDash и Spotify показывают, как это работает на их объёмах данных.
Три подтемы: RAG и поиск, документы и OCR, графы знаний.
AI Engineer Summit 2023
AI Engineer Summit 2023
AI Engineer Summit 2023
RAG (retrieval-augmented generation) - схема, при которой перед ответом модель получает найденные фрагменты ваших документов. Модель отвечает по ним, а не по памяти из обучения. Так LLM знает ваши данные без fine-tuning и может сослаться на источник.
Когда вопрос требует связей между многими документами, точных расчётов или свежих данных из рабочей системы. Тогда добавляют графы знаний, доступ к SQL или дают агенту инструменты для поиска. Об этих переходах говорит большая часть докладов раздела.
AI Engineer Summit 2023
AI Engineer Summit 2023
AI Engineer Summit 2023
AI Engineer Summit 2023
AI Engineer Summit 2023
AI Engineer Summit 2023