← Каталог

· AI Engineer World's Fair 2025

Как agents сломали инфраструктуру приложений

How agents broke app-level infrastructure

Агентные workflow, которые работают минутами и часами, требуют отделить API от compute-слоя и отдавать статус и результат через Redis Streams.

  • Таймауты serverless — большинство serverless-платформ обрывают выполнение через пять минут, некоторые ограничивают исходящие HTTP-запросы, а нативного стриминга нет, поэтому его приходится добавлять на уровне приложения.
  • Resumable через Redis Streams — после запуска API-слой только читает статус и результат из Redis Stream, поэтому пользователь может обновить страницу или уйти и получить всю историю сообщений. Sandbox шлёт heartbeat, и фоновые процессы перезапускают зависший workflow или уведомляют пользователя.
  • Шаги как компоненты — идемпотентные компоненты в духе React дают retry и error boundary на каждом шаге и трейсы вложенных вызовов OpenAI, а retry и кэш настраиваются через fluent API. Доклад по сути знакомит с открытым фреймворком GenSX.
  • Деплой длинных задач — при workflow на шестьдесят минут нужны аккуратный drain воркеров и blue-green деплой, иначе обновление может оборвать работу на полпути.

Кому полезно: тем, кто выводит многоминутные агентные процессы или фоновую обработку документов в продакшен на serverless-инфраструктуре.

Статья по теме

На какие вопросы отвечает доклад

Главы

Похожие доклады