← Каталог

· AI Engineer World's Fair 2026

Нужны ссылки: происхождение данных в графах знаний, созданных LLM

Citation Needed: Provenance for LLM-Built Knowledge Graphs

Происхождение фактов в графе знаний, который строит LLM, нужно хранить как связи внутри самого графа, иначе слияния сущностей и исправления стирают источники.

  • Связи фактов с эпизодами — исходные данные хранятся как эпизоды-узлы, и сущности с фактами связаны с ними. При слиянии сущностей связи объединяются, иначе источник молча теряется, а факт удаляется, только если не осталось ни одного поддерживающего эпизода.
  • Теги при загрузке — тег источника (например, EHR) ставится на эпизод при записи и наследуется всеми производными фактами, поэтому агент может отфильтровать проверенные данные обходом графа. Для фактов с несколькими источниками правило разное: аллергия блокирует назначение при любом непроверенном источнике, а согласие на процедуру требует проверки всех.
  • Временная инвалидация — при противоречии в ребро добавляется invalidAt, а эпизоды, вызвавшие изменение, остаются привязанными к факту, поэтому видно, почему он изменился.
  • Дедупликация без LLM — где возможно, спикер использует классические методы информационного поиска и NLP, например SimHash. По его словам, это заметно дешевле, быстрее и детерминированнее.

Кому полезно: тем, кому нужно отвечать, откуда взялся факт в памяти агента, и удалять данные по политике хранения или запросу на забвение.

Статья по теме

Главы

Ещё доклады: Daniel Chalef

Страница спикера →

Похожие доклады