· AI Engineer World's Fair 2024
Запуск Hypermode
Hypermode Launch
Дешёвая замена модели и промпта возможна, если AI-вызовы идут через тот же API, что и обычный код, а каждый шаг трассируется.
- Общий API для классики и AI — модели и данные подключаются к AI-функциям так же, как обычные сервисы, а каждый inference-шаг можно проследить. По словам авторов, это позволяет менять промпты, стратегии и наборы данных без страха что-то сломать.
- RAG в одном запросе — embedding и поиск работают во встроенном сервисе внутри runtime, поэтому не нужны отдельные запросы к модели эмбеддингов и векторному хранилищу. По словам спикера, это экономит пару сотен миллисекунд на запрос.
- Сравнение моделей и сбор датасета — ответы разных моделей и тюнов сравниваются рядом, а набор данных экспортируется для fine-tuning.
- Подсказки параметров в редакторе — допустимые диапазоны, например температуры, видны прямо в редакторе кода без SDK и чтения документации.
Кому полезно: тем, кто хочет поэтапно добавлять AI в существующее приложение. Доклад в основном рассказывает о продукте Hypermode, а инженерные идеи про трассировку и RAG в одном запросе можно забрать и без него.
Статья по теме
На какие вопросы отвечает доклад
Как убрать лишний запрос к векторной базе в RAG: эмбеддинг и поиск за один вызов?
Встроенный in-memory сервис эмбеддингов и поиска выполняет оба шага в одном запросе. По словам спикера, это экономит пару сотен миллисекунд на каждый запрос.
▶ 2:56Опыт разработчика, интегрированные embeddings и поиск для RAGКак сравнить ответы разных моделей и тюнов на одних и тех же входах?
По словам спикера, платформа позволяет сравнивать инференсы, тюны и модели между собой, а затем экспортировать накопленные данные для fine-tuning.
▶ 2:56Опыт разработчика, интегрированные embeddings и поиск для RAGКак заменить модель в AI-функции, не переписывая интеграцию?
Спикер предлагает работать с моделями и данными через те же API, что и с классическими системами, и поддерживать взаимозаменяемые модели, чтобы смена модели почти не требовала усилий.
▶ 1:26Снижение трения при работе с AI благодаря наблюдаемой среде выполнения с поддержкой разных моделейКак трассировать каждый шаг вызова LLM в продакшене, чтобы безопасно менять промпты?
По словам спикера, пошаговая трассировка инференса позволяет безопасно менять промпты, стратегии и наборы данных, а AI-функции можно наблюдать в продакшене.
▶ 1:26Снижение трения при работе с AI благодаря наблюдаемой среде выполнения с поддержкой разных моделейКак добавить AI в существующее приложение постепенно, не выбирая архитектуру заранее?
Спикер советует начинать с AI-функций внутри текущего стека и переходить к AI-native приложениям по мере того, как команда набирает навыки.
▶ 0:00Уроки Vercel: быстрые итерации и постепенное внедрение
Главы
Похожие доклады
Ключевой доклад: опыт разработки AI-приложений может быть лучше — почему и как мы создали Modal
AI Engineer Summit 2025
Близко по содержанию
Мастер-класс по Vercel AI SDK: от основ до Deep Research
AI Engineer Summit 2025
Близко по содержанию
Маллет графа знаний: как упростить GraphRAG
AI Engineer World's Fair 2025
Близко по содержанию
Hyperspace: Больше узлов — всё, что нужно
AI Engineer World's Fair 2024
Близко по содержанию

