Контекстные графы для объяснимых AI-агентов, учитывающих последствия решений
Context Graphs for Explainable, Decision-Aware AI Agents
Context graph, который хранит к знаниям ещё и политики, правила и историю решений, позволяет агентам принимать решения, которые можно объяснить и проверить, по словам авторов доклада.
- Три вида памяти — short-term память хранит диалог и историю состояний, long-term описывает организации, людей и связи между ними, а память рассуждений фиксирует, по каким правилам агент действовал.
- Предложение отделено от решения — один агент только предлагает варианты с плюсами и минусами, второй проверяет, есть ли у агента полномочия, и либо действует, либо передаёт вопрос человеку (human-in-the-loop).
- Оценка риска до действия — спикер предлагает проверять, к какому классу случаев относится ситуация, и учитывать обратимость решения и цену ошибки. В медицине общая статистика (лекарство подходит в 99% случаев) не защищает от редкого случая, где то же лекарство опасно.
- Запись решений в граф — сохраняются рассуждение, отвергнутые варианты и действия, чтобы будущие агенты опирались на прецеденты. Детали каждого шага, по словам спикера, сильно зависят от домена.
Кому полезно: тем, кто строит агентов, которые принимают решения с финансовыми или медицинскими последствиями и должны объяснять, почему они действовали именно так.
Статья по теме
Главы
Ещё доклады: Andreas Kollegger
Страница спикера →Графовый интеллект: как улучшить рассуждения и поиск с помощью графовой аналитики
AI Engineer World's Fair 2025
Похожие доклады
Почему с увеличением контекста агент глупеет и что с этим делать
AI Engineer Europe 2026
Близко по содержанию
Почему вашей компании нужен граф контекста (и как его построить)
AI Engineer World's Fair 2026
Близко по содержанию
Графы знаний в litigation-агентах
AI Engineer World's Fair 2025
Близко по содержанию


