← Каталог

· AI Engineer World's Fair 2025

В продакшен: создаём production-ready agents

Ship it! Building Production-Ready Agents

Агент с одним инструментом выводится в продакшен на Amazon Bedrock Agents: сервис ведёт цикл и историю, а инструменты работают как Lambda-функции.

  • Анатомия агента — модель, промпт, агентный цикл, история и инструменты. По словам спикера, история нужна самому циклу, чтобы каждый следующий шаг учитывал предыдущие вызовы, а не только прошлые сессии.
  • Action groups — набор инструментов с описаниями и параметрами. Описания читает LLM и по ним решает, когда вызвать инструмент, поэтому их пишут на естественном языке.
  • Few-shot примеры для маленькой модели — спикер запускал агента на Llama 3.1 с 8 млрд параметров локально через Ollama и добавил в системный промпт примеры вызова инструмента, чтобы модель правильно использовала его.
  • Инфраструктура как код — всё показанное в консоли, по словам спикера, описывается через Terraform, Pulumi, CloudFormation или SAM. Доклад построен на сервисах AWS, но схема агента с инструментами от них не зависит.

Кому полезно: тем, кто переносит прототип агента с вызовом инструментов из локального скрипта в облако и хочет понять, что берёт на себя управляемый сервис.

Статья по теме

Главы

Ещё доклады: Mike Chambers

Страница спикера →

Похожие доклады