← Каталог

· AI Engineer World's Fair 2024

От А до Я: создание AI agents

The A to Z of Building AI Agents

Агент оправдан для многошаговых задач, которым нужны инструменты, рассуждение и память, а для одного вопроса к базе знаний хватает RAG.

  • Выбор между промптом, RAG и агентом — вопрос, на который модель отвечает из своих параметрических знаний, агента не требует, а запрос вроде политики командировок закрывает RAG. Агент нужен, когда задача делится на несколько шагов с разными данными, например анализ динамики калорийного рациона с последующим графиком.
  • ReAct и reflection — ReAct чередует рассуждение, действие и наблюдение до финального ответа. Reflection запускает цикл генерации и критики, обменивая вычисления на шанс получить более точный ответ.
  • Память по приложениям — по словам спикеров, долговременную память проще реализовать в агенте под конкретное приложение, где заранее известно, какие состояния отслеживать. Короткую память можно хранить как историю сообщений в MongoDB, привязанную к идентификатору сессии.
  • Инструменты в LangChain — функция оформляется декоратором tool с понятным именем, подробным описанием и типами аргументов, по которым модель выбирает нужный вызов. Обычную Python-функцию можно обернуть в RunnableLambda и подключить к цепочке LCEL.

Кому полезно: тем, кто решает, нужен ли задаче агент или хватит RAG, и хочет собрать агента с памятью на LangChain и MongoDB.

Статья по теме

Главы

Ещё доклады: Apoorva Joshi

Страница спикера →

Похожие доклады