Будущее ассистентов по работе со знаниями
AI Engineer World's Fair 2024
Загружаем страницу…
RAG и поиск для LLM: векторный, гибридный и семантический поиск, embeddings, разбиение документов на фрагменты и reranking.
Доклады показывают, насколько поиск определяет качество агента: в одном кейсе улучшенный retrieval поднял точность агента с 36% до 98%. Спикеры строят реляционный движок контекста вместо классического RAG, объясняют, почему fine-tuning не лечит плохой поиск, и показывают поиск и персонализацию на LLM в DoorDash и Spotify.
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
Эмбеддинги (embeddings) - векторы чисел, в которые модель превращает текст, картинку или другой объект. Похожие по смыслу тексты получают близкие векторы. На этом построен векторный поиск: запрос тоже переводят в вектор и ищут ближайшие фрагменты.
Большинство спикеров используют гибридный. Векторный поиск находит близкое по смыслу, полнотекстовый ловит точные термины, названия и коды. Результаты объединяют и пересортировывают reranking-моделью.
Поиск и ответ проверяют отдельно. Для поиска собирают вопросы с известными правильными фрагментами и считают, сколько из них попало в выдачу. Ответ оценивают на верность найденным документам, часто через LLM-as-a-judge.
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
Rachelle Mattern, Petro Milan, Varun Krishna
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
Michael Hunger, Andreas Kolleger, Tomasz, Zach Blumenthal
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024
Pamela Fox, Gabriela de Queiroz, Aishwarya Srinivasan
AI Engineer World's Fair 2024
AI Engineer World's Fair 2024