← Каталог

· AI Engineer NYC 2026 Online Talks

Путь к production: управляемые корпоративные AI-агенты

Paving the Road to Production: Governed Enterprise AI Agents — Harish Gaggar, Credit Karma

Корпоративный агент выходит в продакшен надёжно, когда шлюз MCP, аудит, память, трекинг, фильтрация PII и оптимизация контекста заложены с первого дня.

  • Централизованный MCP-шлюз — все вызовы инструментов идут через один шлюз, который аутентифицирует запрос, выдаёт JWT и маршрутизирует его на MCP-серверы, прямого доступа к эндпоинтам нет. Инструменты собственных MCP-серверов проходят ревью службы безопасности до продакшена.
  • Workflow с human-in-the-loop — LangGraph классифицирует запрос на чтение, изменение и удаление, чувствительные записи ждут одобрения человека, а все решения попадают в аудит.
  • Трекинг и состояние — threads, run ID и checkpoints сохраняют состояние workflow, отдельные таблицы хранят ответы, модель, стоимость, вызовы инструментов и траектории. Демо показывают просмотр записей, а не проверенное качество системы или ROI.
  • Оптимизация контекста — pruning, reranking, дедупликация и сжатие payload. По словам автора, токены в одном запросе упали с примерно 24 000 до 2 400, в примере Slack-бота до около 1 500, но сравнения качества ответов не приводится.

Кому полезно: техлидам, которые выводят агентов с доступом к внутренним системам и MCP-инструментам в компании.

Статья по теме

Главы

Похожие доклады