← Каталог

· AI Engineer World's Fair 2025

Создание agentic-приложений с Heroku Managed Inference и Agents

Building Agentic Applications with Heroku Managed Inference and Agents — Julián Duque and Anush DSouza

Инструменты агента на Heroku можно запускать на одноразовых dyno, которые масштабируются до нуля: по словам авторов, платишь только за время выполнения.

  • Модель в той же сети, что и приложение — inference работает внутри инфраструктуры приложения, поэтому данные не уходят к сторонним провайдерам. Подключение делается одним add-on, а доступ дают три переменные окружения, совместимые с OpenAI SDK.
  • Встроенные инструменты на отдельном dyno — выполнение кода на Python, Node, Ruby и Go с установкой пакетов, конвертация PDF и HTML в markdown, запросы к Postgres. Каждый вызов поднимает dyno, выполняет код и гаснет.
  • Доступ агента к базе только через follower — Postgres-инструменты работают с read-only follower, а не с основной базой, и приложение получает доступ только после явного attachment. Авторы объясняют это тем, что LLM не стоит доверять записи в продакшен-базу.
  • Свой MCP-сервер без постоянного процесса — stdio MCP описывается в Procfile строкой с префиксом mcp и тоже масштабируется до нуля. Наружу его можно отдать SSE-эндпоинтом с bearer token; по словам спикеров, OAuth в разработке.

Кому полезно: тем, кто оценивает Heroku для агентов с доступом к базе данных и MCP-инструментам. Доклад — воркшоп по продукту компании с пошаговой настройкой.

Статья по теме

Главы

Похожие доклады