OpenAI для руководителей AI-направлений
OpenAI for VPs of AI
Агентную систему стоит начинать с одного агента на голых API-вызовах, а сеть агентов с handoff добавлять, когда растут число пользовательских намерений и сценариев сбоя.
- Примитивы раньше фреймворка — собирать агента сначала на сырых вызовах API с логированием выходов и сбоев, а абстракции вводить, когда начинаешь переписывать одно и то же, например стратегию embeddings или model graders. По словам авторов, фреймворк в начале скрывает, как система себя ведёт, и решения принимаются раньше, чем понятны ограничения.
- Один агент в продакшене до сети — агент под одну задачу выводят на ограниченную группу пользователей, а узкие места вроде галлюцинаций на длинных диалогах, задержек и плохого retrieval видны уже по данным. Сложность наращивают по мере появления новых намерений и сценариев сбоя.
- Handoff с разными моделями — в примере клиентской поддержки GPT-4o mini делает триаж, GPT-4o ведёт диалог, а o3-mini проверяет право на возврат. История диалога сохраняется при смене модели, промпта и набора инструментов.
- Guardrails отдельно от основного промпта — их запускают параллельно, а основной промпт держат простым и сфокусированным на целевой задаче. Input guardrail ловит prompt injection, output guardrails проверяют ответ, а рискованные действия вроде возврата денег ждут их результата.
Кому полезно: техлидам, которые выводят агентов в продакшен и выбирают между фреймворком и своим кодом; первая часть доклада про работу OpenAI с корпоративными клиентами больше похожа на презентацию компании, инженерные выводы в основном во второй.
Статья по теме
Главы
Ещё доклады: Toki Sherbakov
Страница спикера →Создание эффективных голосовых агентов
AI Engineer World's Fair 2025
Похожие доклады
От хайпа к привычке: как мы строим SaaS-компанию с AI в основе и продолжаем выполнять roadmap
Deepsha Menghani, Rossella Blatt Vital
AI Engineer World's Fair 2025
Близко по содержанию
AI-инструменты для Forward Deployed Engineering
AI Engineer World's Fair 2026
Близко по содержанию
AI-консалтинг на практике
AI Engineer Code 2025
Близко по содержанию
