← Каталог

Мы снова и снова перестраивали AI-агента. Вот что в итоге осталось

We Kept Rebuilding Our AI Agent. Here's What Survived - Fuad Ali, Arize AI

План, правила завершения и память агента лучше держать в harness-коде, а не в модели, по словам авторов из Arize.

  • План в harness — вместо to-do инструмента, на который модель тратила большую часть вызовов, harness хранит план и выводит его в каждом вызове модели. По словам спикера, сейчас команда тестирует вариант без to-do инструмента вовсе.
  • Явное завершение — ход заканчивается вызовом finish, который harness отклоняет до трёх раз при открытых пунктах плана, предупреждает за шаг до лимита итераций и затем завершает принудительно.
  • Большие результаты как файлы — длинный JSON обрезается, а полный текст агент читает кодом через jq. Историю заменяют чекпоинтами в фиксированном бюджете токенов.
  • Память в одном файле — один Markdown на пользователя до 8 000 символов, который фоновая задача обновляет после сессии. По словам спикера, это обошло векторный поиск и графы знаний, а файл легко проверить человеку.

Кому полезно: тем, кто строит собственный цикл агента без фреймворка и даёт пользователям выбирать модель.

Статья по теме

Главы

Ещё доклады: Fuad Ali

Все 4 доклада →

Похожие доклады