Доверяй, но проверяй: точные рассуждения в agentic workflows
Trust, but Verify: High-Fidelity Reasoning in Agentic Workflows
Ошибки извлечения быстро накапливаются в длинной цепочке вызовов, поэтому надёжные агенты для финансовых исследований строят из проверяемых шагов и дают аналитику просматривать каждую находку.
- Накопление ошибок — даже небольшая ошибка на каждом шаге растёт с числом вызовов модели. По словам спикера, выигрывают системы со сквозным RL по последовательностям вызовов инструментов, но это пока открытая задача.
- Проверка отдельным вызовом — вопрос «следует ли это утверждение из документа» надёжнее задавать вторым запросом, а не внутри того же JSON: модель, уже выдавшая ответ, склонна с ним соглашаться.
- Декомпозиция запроса — по словам спикера, даже o1 выдаёт около 2–3 тысяч токенов, поэтому широкий анализ лучше разбивать на подтемы и получать более плотные выводы.
- Интерактивные находки — любой фрагмент текста и любую находку можно открыть для уточнения с источником, а не только смотреть цитаты в готовом отчёте.
Кому полезно: тем, кто строит агентов для due diligence и работы с финансовыми документами. Доклад во многом описывает опыт продукта Brightwave.
Статья по теме
Главы
Похожие доклады
Как Kepler создала проверяемый ИИ для финансовых услуг
AI Engineer World's Fair 2026
Близко по содержанию
Почему готовые ИИ не понимают деньги
AI Engineer World's Fair 2026
Близко по содержанию
AI-корреляция документов для контроля финансового соответствия и выявления мошенничества в компаниях
AI Engineer World's Fair 2026
Близко по содержанию
Доверие к enterprise AI: оценка специализированных LLM на реальных финансовых сценариях
AI Engineer Summit 2025
Близко по содержанию
