← Каталог

· AI Engineer World's Fair 2026

Не отдавайте управление LLM

Don't Let the LLM Drive - Ornella Bahidika & Joel Allou, Microsoft

Надёжного многошагового голосового агента строят не промптами, а конечным автоматом: он задаёт порядок шагов, а LLM выполняет узкое задание на каждом из них.

  • Модель предлагает, код решает — harness проверяет ответ модели, переводит урок в следующее состояние и выбирает следующий шаг. Модель не определяет, на каком этапе урока она находится.
  • Узкий контракт на каждом шаге — урок разбит на введение, объяснение, проверку, оценку, переход к следующему разделу и завершение. На каждом шаге модель получает одно задание и возвращает результат, что, по словам авторов, исключает пропуск шагов, зацикливание и преждевременное завершение урока.
  • Меньшая модель вместо флагманской — благодаря такой обвязке Claude Haiku 4.5 справляется с задачей на нужном уровне, а экономия денег, времени и задержки, по словам авторов, заметна по сравнению с более тяжёлой моделью Opus 4.7.
  • Правило для выбора подхода — если надёжность шага близка к броску монеты, логику переходов стоит вынести из модели. Авторы считают этот приём применимым к агентам для кодинга, runbook и онбордингу.

Кому полезно: тем, кто выводит голосовых агентов или многошаговые процессы в продакшен и сталкивается с тем, что модель пропускает шаги или сама решает, что задача закончена.

Статья по теме

На какие вопросы отвечает доклад

Главы

Ещё доклады: Joel Allou

Страница спикера →

Похожие доклады