← Каталог

· AI Engineer Summit 2023

Генератор веб-приложений на GPT: 10 000 приложений за месяц

GPT Web App Generator - 10,000 apps created in a month: Matija Sosic

Генератор Mage по словам авторов собирает рабочее full-stack приложение за пару минут, потому что опирается на декларативный фреймворк Wasp.

  • Узкая специализация и декларативный фреймворк — Mage генерирует код только для React, Node.js и Wasp, поэтому конфиги и логику аутентификации создаёт до обращения к GPT, а модели остаётся меньше мест для ошибок.
  • Эвристики вместо повторных запросов — частые ошибки, например путаница импортов по умолчанию и именованных, исправляются простыми правилами без GPT; по словам авторов, так закрывается около 90% ошибок.
  • GPT-4 на планировании, GPT-3.5 на реализации — такое разделение, по словам авторов, снижает стоимость до 10–20 центов за приложение, тогда как GPT-4 на всех этапах обошёлся бы примерно в 10 раз дороже.
  • Ограничение одного промпта — после начальной постановки задачи пользователь не может вмешаться в генерацию, поэтому авторы планируют режим живой отладки.

Кому полезно: тем, кто строит генераторы стартовых приложений или думает, как ограничить LLM, чтобы она реже ошибалась. Доклад в основном презентация продукта команды Wasp, но инженерная часть про ограничения и распределение моделей по этапам самостоятельна.

Статья по теме

На какие вопросы отвечает доклад

  • Как снизить стоимость генерации кода LLM, если GPT-4 дорогой для всех шагов?

    Использовать GPT-4 только для этапа планирования, а реализацию отдавать GPT-3.5, которая быстрее и дешевле. По словам спикера, такая схема снижает счёт примерно в 10 раз: 10–20 центов за приложение вместо 1–2 долларов.

    ▶ 6:02Снижение затрат с помощью планирования на GPT-4 и реализации на GPT-3.5
  • Почему агент для кодинга почти не ошибается, когда генерирует веб-приложение целиком?

    Агент работает только с одним стеком (React, Node.js) и высокоуровневым фреймворком, который убирает шаблонный код, а ошибки исправляет до выдачи результата. По словам спикера, простые эвристики без вызова модели закрывают около 90% типичных ошибок.

    ▶ 3:03Декларативное создание каркаса и автоматическое исправление ошибок
  • Какие части проекта можно сгенерировать шаблонами, не обращаясь к LLM?

    Конфигурационные файлы, часть логики аутентификации и глобальный CSS создаются заранее, до обращения к API модели. Этот шаг спикер называет step zero, и только после него подключается агент.

    ▶ 3:03Декларативное создание каркаса и автоматическое исправление ошибок
  • Как устроен цикл агента, который генерирует приложение по описанию?

    Цикл состоит из трёх фаз: планирование (какие сущности, запросы, действия и страницы нужны), генерация кода по плану и исправление найденных ошибок с повторными попытками. Типичная генерация занимала 2–3 минуты и 25–60 тысяч токенов.

    ▶ 3:03Декларативное создание каркаса и автоматическое исправление ошибок
  • Какие задачи для генерации приложений LLM решает надёжно, а где начинаются ошибки?

    По словам спикера, надёжнее всего работает как стартер для CRUD-приложений, а с ростом требований количество ошибок растёт. Слишком общий промпт вроде «сделай Facebook, но жёлтым» тоже снижает качество результата.

    ▶ 6:02Снижение затрат с помощью планирования на GPT-4 и реализации на GPT-3.5

Главы

Похожие доклады