← Каталог

Как улучшенный поиск повысил точность AI-агента с 36% до 98%

Better Search Took This AI Agent From 36% to 98% Accuracy - Aamir Shakir, Mixedbread

Поиск с поздним взаимодействием (late interaction) по страницам документов вместо цепочки OCR, чанкинга и одновекторных эмбеддингов, по словам авторов, поднимает точность ответов агента с 36% до 98%.

  • Потери на каждом шаге — OCR, разбиение на чанки и сжатие страницы в один вектор последовательно теряют информацию про таблицы и диаграммы. По словам спикера, одна точка в пространстве не различает отчёты одной компании за разные годы, поэтому на больших корпусах качество падает.
  • Несколько эмбеддингов на документ и запрос — модель строит отдельные векторы для показателей вроде чистой выручки или чистой прибыли, и каждый учитывает контекст страницы, например компанию и год.
  • Эмбеддинг по скриншоту страницы — поиск работает с изображением страницы, поэтому диаграммы и таблицы в сканах доступны без OCR. Ответ можно сослаться на координаты блока на странице, а для модели без мультимодальности отдаётся и текст с разметкой.
  • Результат на реальных данных — у хедж-фонда с более чем миллиардом документов точность ответов агента, по оценке экспертов, выросла с 36% до 98%. По словам спикера, расход LLM-токенов упал примерно втрое, потому что меньше контекста уходит на поиск и чтение.

Кому полезно: тем, кто строит поиск по большим корпусам PDF, сканов и аудио для агентов и видит падение качества при росте объёма данных.

Статья по теме

Главы

Ещё доклады: Aamir Shakir

Страница спикера →

Похожие доклады