← Каталог

· AI Engineer World's Fair 2025

Проектирование приложений с интенсивным использованием ИИ

Designing AI-Intensive Applications

AI-интенсивные приложения стоит оценивать не спорами о том, workflow это или агент, а соотношением ценного AI-выхода к человеческому вводу.

  • Соотношение ввода и выхода — по словам автора, от автодополнения в Copilot, где человек вводит почти всё сам, это соотношение меняется к reasoning-моделям и агентам, и его удобнее отслеживать, чем спорить о терминах.
  • Схема SPADE — для приложений, которые делают тысячи AI-вызовов ради одной задачи, автор предлагает цепочку: сбор данных, планирование, параллельная обработка, свёртка многих результатов в один, доставка и оценка. Он проверяет её на собственном сервисе AI News, который каждый день скрейпит источники, планирует, рекурсивно суммаризирует, форматирует и оценивает результат.
  • Оценка как точка окупаемости — по словам автора, ранние части жизненного цикла LLM-приложений, такие как LLM, мониторинг и RAG, уже почти бесплатны, а настоящая инженерная работа начинается, когда приложение приносит деньги: evals и оркестрация безопасности.

Кому полезно: тем, кто строит приложения с большим числом LLM-вызовов на один запрос и хочет понять, как оценивать их ценность.

Статья по теме

Главы

Ещё доклады: swyx

Все 12 докладов →

Похожие доклады