← Каталог

· AI Engineer World's Fair 2026

Маленькие модели, большие результаты: обучение финансового агента менее чем за $500

Small Models, Big Results: Training a Finance Agent for Under $500 — Charles Dickens, Snorkel AI

Qwen3 4B, обученная с помощью RL на финансовых SQL-задачах примерно за 500 долларов, по словам авторов обгоняет свою 235B-версию.

  • Бинарный reward вместо рубрики — простая метка «верно или нет», которую выставляет GPT-5 nano по эталонному ответу, дала больший прирост, чем взвешенная рубрика, написанная с экспертами. Обучение только на одиночных таблицах тоже оказалось эффективнее смеси с многотабличными вопросами и постепенного усложнения.
  • Дисциплина работы с инструментами важнее глубины рассуждения — по выводу спикера, основной провал модели был в инструментах: выдуманные схемы, запросы select *, переполняющие контекст, и повтор одной и той же неудачной стратегии. Улучшение перенеслось на вопросы с 2–5 таблицами без явного обучения на них.
  • Датасет из отчётов SEC с проверкой в три слоя — около 6900 SQL-таблиц из 10-K, программные проверки имён таблиц и колонок, ревью независимыми агентами и ручная проверка экспертами. Компании в сплитах не пересекаются.
  • Бюджет обучения — около 420 долларов на вычисления и 40 на API судьи, восемь H100 и примерно 1000 параллельных окружений. На BFCL общая точность tool calling слегка выросла.

Кому полезно: тем, кто строит агентов для работы со сложными схемами данных и думает, дообучать ли небольшую модель вместо вызова большой.

Статья по теме

Главы

Похожие доклады