· AI Engineer World's Fair 2024
Будущее ассистентов по работе со знаниями
The Future of Knowledge Assistants: Jerry Liu
Для продакшен-ассистента по документам нужны два условия: качественный парсинг PDF и агенты, вынесенные в отдельные микросервисы.
- Парсинг снижает галлюцинации сам по себе — на расписании Caltrain простой PDF-парсер склеивал колонки с числами и текстом, а LlamaParse с сохранением структуры давал верное время для нужной колонки, по словам спикера.
- Одного агента на большой набор инструментов не хватает — по словам спикера, агент с тысячей инструментов обычно ошибается, а несколько специализированных агентов с 5–10 инструментами позволяют брать более слабую и быструю модель и снижать стоимость и задержку.
- Llama Agents разворачивает каждого агента как отдельный сервис — агенты общаются через центральный API или очередь сообщений, а оркестрация задаётся явно или делегируется LLM. Фреймворк в alpha, несколько копий одного агента могут обрабатывать запросы параллельно.
Кому полезно: тем, кто переносит RAG-ассистента по PDF и таблицам из ноутбука в продакшен.
Статья по теме
Главы
Ещё доклады: Jerry Liu
Все 4 доклада →Создание слоя контекста документов для AI agents
AI Engineer World's Fair 2026
RAG для руководителей AI-направлений
AI Engineer World's Fair 2024
Как довести RAG до production: поиск, оценка и анализ ошибок
AI Engineer Summit 2023
Похожие доклады
Как создавать AI agents для автоматизации интеллектуальной работы
AI Engineer World's Fair 2025
Тот же спикер: Jerry Liu
Создание корпоративных приложений генеративного ИИ на Llama-3 со скоростью 1 000 токенов/с на платформе SambaNova
Rachelle Mattern, Petro Junior Milan, Varun Badrinath Krishna
AI Engineer World's Fair 2024
Близко по содержанию
Llama 3 со скоростью 1000 токенов/с на AI-платформе SambaNova
Rachelle Mattern, Petro Milan, Varun Krishna
AI Engineer World's Fair 2024
Близко по содержанию

