Загружаем страницу…
Загружаем страницу…
RAG и поиск для LLM: векторный, гибридный и семантический поиск, embeddings, разбиение документов на фрагменты и reranking.
Доклады показывают, насколько поиск определяет качество агента: в одном кейсе улучшенный retrieval поднял точность агента с 36% до 98%. Спикеры строят реляционный движок контекста вместо классического RAG, объясняют, почему fine-tuning не лечит плохой поиск, и показывают поиск и персонализацию на LLM в DoorDash и Spotify.
Эмбеддинги (embeddings) - векторы чисел, в которые модель превращает текст, картинку или другой объект. Похожие по смыслу тексты получают близкие векторы. На этом построен векторный поиск: запрос тоже переводят в вектор и ищут ближайшие фрагменты.
Большинство спикеров используют гибридный. Векторный поиск находит близкое по смыслу, полнотекстовый ловит точные термины, названия и коды. Результаты объединяют и пересортировывают reranking-моделью.
Поиск и ответ проверяют отдельно. Для поиска собирают вопросы с известными правильными фрагментами и считают, сколько из них попало в выдачу. Ответ оценивают на верность найденным документам, часто через LLM-as-a-judge.