← Каталог

· AI Engineer World's Fair 2025

Как создавать AI-приложения с миллионами пользователей на OSS-моделях

Using OSS models to build AI apps with millions of users

Простое приложение с одним вызовом открытой модели и быстрым запуском, по словам спикера, позволяет выпускать по одному AI-приложению в месяц.

  • Один вызов модели — типичное приложение укладывается в четыре шага: ввод пользователя, запрос к модели на Together AI, сохранение результата в Postgres и показ пользователю. По словам спикера, такая простота ускоряет проверку идеи.
  • UI занимает большую часть работы — спикер говорит, что тратит около 80% времени на интерфейс. Ранние приложения с плохим видом почти не использовались, а PDF-суммаризатор с продуманным UI собрал десятки тысяч пользователей.
  • Шеринг результата как механика роста — приложения, где готовый результат легко отправить другу с нормальной OG-картинкой, по наблюдению спикера растут заметно лучше.
  • Новые модели в готовых приложениях — смена модели часто сводится к одной строке, поэтому старые приложения можно перезапустить с новой моделью. BlinkShot на Flux Schnell запустили примерно через два дня после выхода модели.

Кому полезно: разработчикам, которые делают небольшие AI-приложения и хотят проверять идеи на реальных пользователях быстрее, чем за месяц.

Статья по теме

На какие вопросы отвечает доклад

  • Как придумывать идеи для небольших AI-приложений, которые реально заберут пользователи?

    Спикер ведёт список идей и держит топ-5, выбирает короткое запоминающееся название и проверяет, свободен ли домен. Приложения он делает с одним-двумя вызовами API к модели, чтобы быстрее проверить идею.

    ▶ 4:52Демонстрации приложений и выбор подхода к full-stack-разработке
  • Какой стек выбрать, чтобы быстро выкатить AI-приложение с регистрацией и базой данных?

    Спикер использует Next.js и TypeScript, Neon как serverless Postgres, Clerk для аутентификации, Prisma для работы с базой, S3 для картинок, Vercel для хостинга и Together AI для моделей. Аналитику ведёт через Plausible и Helicone.

    ▶ 4:52Демонстрации приложений и выбор подхода к full-stack-разработке
  • Как ограничить расходы на модели в бесплатном AI-приложении?

    После прототипа спикер решает, нужна ли аутентификация, сколько запросов в день давать одному пользователю и стоит ли добавить режим bring your own API key. Выбор зависит от того, насколько дорогая модель.

    ▶ 10:08Ограничения прототипов, контроль затрат и быстрый запуск новых моделей
  • Почему стоит тратить много времени на интерфейс AI-приложения, а не только на модель?

    Спикер тратит на интерфейс около 80% времени, потому что его первые приложения выглядели плохо и почти никто ими не пользовался. Простое приложение вроде суммаризации PDF с хорошим UI, по его словам, собрало десятки тысяч пользователей.

    ▶ 10:08Ограничения прототипов, контроль затрат и быстрый запуск новых моделей
  • Кто оплачивает вычисления и вызовы моделей для бесплатных AI-приложений с открытым кодом?

    Вычисления для моделей спонсирует Together AI, а база данных и аутентификация идут от партнёров: Neon и Clerk. По словам спикера, компании часто дают кредиты, если попросить их для открытого проекта.

    ▶ 14:16Вопросы и ответы, завершение
  • Как обновить AI-приложение, когда выходит новая и более сильная модель?

    По словам спикера, часто достаточно поменять название модели в одной строке, и приложение становится лучше или получает новые возможности. Иногда он заново запускает старое приложение с новой моделью.

    ▶ 14:16Вопросы и ответы, завершение

Главы

Ещё доклады: Hassan El Mghari

Страница спикера →

Похожие доклады