← Каталог

· AI Engineer Summit 2025

OpenAI для руководителей AI-направлений

OpenAI for VPs of AI

Агентную систему стоит начинать с одного агента на голых API-вызовах, а сеть агентов с handoff добавлять, когда растут число пользовательских намерений и сценариев сбоя.

  • Примитивы раньше фреймворка — собирать агента сначала на сырых вызовах API с логированием выходов и сбоев, а абстракции вводить, когда начинаешь переписывать одно и то же, например стратегию embeddings или model graders. По словам авторов, фреймворк в начале скрывает, как система себя ведёт, и решения принимаются раньше, чем понятны ограничения.
  • Один агент в продакшене до сети — агент под одну задачу выводят на ограниченную группу пользователей, а узкие места вроде галлюцинаций на длинных диалогах, задержек и плохого retrieval видны уже по данным. Сложность наращивают по мере появления новых намерений и сценариев сбоя.
  • Handoff с разными моделями — в примере клиентской поддержки GPT-4o mini делает триаж, GPT-4o ведёт диалог, а o3-mini проверяет право на возврат. История диалога сохраняется при смене модели, промпта и набора инструментов.
  • Guardrails отдельно от основного промпта — их запускают параллельно, а основной промпт держат простым и сфокусированным на целевой задаче. Input guardrail ловит prompt injection, output guardrails проверяют ответ, а рискованные действия вроде возврата денег ждут их результата.

Кому полезно: техлидам, которые выводят агентов в продакшен и выбирают между фреймворком и своим кодом; первая часть доклада про работу OpenAI с корпоративными клиентами больше похожа на презентацию компании, инженерные выводы в основном во второй.

Статья по теме

Главы

Ещё доклады: Toki Sherbakov

Страница спикера →

Похожие доклады