← Каталог

· AI Engineer Europe 2026

Контекстные графы для объяснимых AI-агентов, учитывающих последствия решений

Context Graphs for Explainable, Decision-Aware AI Agents

Context graph, который хранит к знаниям ещё и политики, правила и историю решений, позволяет агентам принимать решения, которые можно объяснить и проверить, по словам авторов доклада.

  • Три вида памяти — short-term память хранит диалог и историю состояний, long-term описывает организации, людей и связи между ними, а память рассуждений фиксирует, по каким правилам агент действовал.
  • Предложение отделено от решения — один агент только предлагает варианты с плюсами и минусами, второй проверяет, есть ли у агента полномочия, и либо действует, либо передаёт вопрос человеку (human-in-the-loop).
  • Оценка риска до действия — спикер предлагает проверять, к какому классу случаев относится ситуация, и учитывать обратимость решения и цену ошибки. В медицине общая статистика (лекарство подходит в 99% случаев) не защищает от редкого случая, где то же лекарство опасно.
  • Запись решений в граф — сохраняются рассуждение, отвергнутые варианты и действия, чтобы будущие агенты опирались на прецеденты. Детали каждого шага, по словам спикера, сильно зависят от домена.

Кому полезно: тем, кто строит агентов, которые принимают решения с финансовыми или медицинскими последствиями и должны объяснять, почему они действовали именно так.

Статья по теме

Главы

Ещё доклады: Andreas Kollegger

Страница спикера →

Похожие доклады