· AI Engineer World's Fair 2026
Нужны ссылки: происхождение данных в графах знаний, созданных LLM
Citation Needed: Provenance for LLM-Built Knowledge Graphs
Происхождение фактов в графе знаний, который строит LLM, нужно хранить как связи внутри самого графа, иначе слияния сущностей и исправления стирают источники.
- Связи фактов с эпизодами — исходные данные хранятся как эпизоды-узлы, и сущности с фактами связаны с ними. При слиянии сущностей связи объединяются, иначе источник молча теряется, а факт удаляется, только если не осталось ни одного поддерживающего эпизода.
- Теги при загрузке — тег источника (например, EHR) ставится на эпизод при записи и наследуется всеми производными фактами, поэтому агент может отфильтровать проверенные данные обходом графа. Для фактов с несколькими источниками правило разное: аллергия блокирует назначение при любом непроверенном источнике, а согласие на процедуру требует проверки всех.
- Временная инвалидация — при противоречии в ребро добавляется
invalidAt, а эпизоды, вызвавшие изменение, остаются привязанными к факту, поэтому видно, почему он изменился. - Дедупликация без LLM — где возможно, спикер использует классические методы информационного поиска и NLP, например SimHash. По его словам, это заметно дешевле, быстрее и детерминированнее.
Кому полезно: тем, кому нужно отвечать, откуда взялся факт в памяти агента, и удалять данные по политике хранения или запросу на забвение.
Статья по теме
Главы
Ещё доклады: Daniel Chalef
Страница спикера →Мастер-класс по памяти: научите AI-агентов помнить, что они делают!
Daniel Chalef, Alex Gilmore, Mark Bain, Vasilije Markovic
AI Engineer World's Fair 2025
Не используйте RAG как память
AI Engineer World's Fair 2025
Похожие доклады
Ваш стек LLM — это база данных 2008 года с более удачным маркетингом
AI Engineer World's Fair 2026
Близко по содержанию
Почему вашей компании нужен граф контекста (и как его построить)
AI Engineer World's Fair 2026
Близко по содержанию
Графовый интеллект: как улучшить рассуждения и поиск с помощью графовой аналитики
AI Engineer World's Fair 2025
Близко по содержанию

