← Каталог

· AI Engineer World's Fair 2025

Данные — ваше конкурентное преимущество: создание безопасных и адаптированных ИИ-систем

Data is Your Differentiator: Building Secure and Tailored AI Systems

Качество генеративного приложения определяют собственные данные компании, а не выбор модели: в RAG-стеке на Amazon Bedrock главное — подготовка данных, поиск и оценка.

  • Chunking и поиск — стратегия chunking влияет на точность ответов. Knowledge Bases дают иерархический и semantic chunking, а Retrieve принимает hybrid search параметром, без собственного кода.
  • Reranking и декомпозиция запроса — RetrieveAndGenerate включает reranking и query decomposition через параметры, что нужно для сложных вопросов.
  • Semantic cache и логи — кэш по смыслу вопроса, а не по точной формулировке, экономит вызовы модели и снижает задержку. Логируются запросы, результаты retrieval и ответы.
  • Оценка контекста до генерации — спикер советует сначала проверять context relevance и только потом передавать найденное в модель. После каждого изменения нужен автоматический тестовый набор.

Кому полезно: тем, кто строит RAG-приложения по внутренним документам компании и хочет понять, где теряется качество до выбора модели.

Статья по теме

Главы

Похожие доклады