← Каталог

· AI Engineer World's Fair 2026

За пределами RAG: реляционный context engine сокращает расход токенов

Beyond RAG: A Relational Context Engine That Cuts Token Burn — Unblocked

Семантический поиск не покрывает вопросы с фильтрами, датами и агрегациями: их надёжнее переводить в валидируемые запросы к базе, чем отдавать модели без ограничений.

  • Схема из выборки документов — схему базы можно определить во время работы: взять выборку документов, вывести из неё поля, перечисления и индексы. По словам спикера, многое здесь решается обычными процедурными методами, а LLM нужна только для спорных случаев, например как арбитр при сопоставлении идентичностей.
  • Валидация до выполнения — запрос от модели считается недоверенным. Операторы вроде $function, который выполняет JavaScript на сервере, и $regex отсекаются, скрытые поля защищены, а ограничение по тенанту добавляется снаружи, вне контроля модели.
  • Повторы с ошибкой — текст ошибки валидации или выполнения возвращается модели, число попыток ограничено. Точное совпадение по заголовку не находило нужный PR, и полнотекстовый поиск закрыл этот пробел.
  • Цена контекста — в демо с Claude контекст снизил расходы и время: $1.29 за около 90 секунд против $2.60 и трёх минут без него. По словам спикера, это одна демонстрация, а не общий бенчмарк.

Кому полезно: тем, кто даёт агентам вопросы к истории PR, тикетов и обсуждений и упирается в фильтры, даты и подсчёты.

Статья по теме

Главы

Ещё доклады: Peter Werry

Страница спикера →

Похожие доклады