· AI Engineer World's Fair 2025
Как создавать AI-приложения с миллионами пользователей на OSS-моделях
Using OSS models to build AI apps with millions of users
Простое приложение с одним вызовом открытой модели и быстрым запуском, по словам спикера, позволяет выпускать по одному AI-приложению в месяц.
- Один вызов модели — типичное приложение укладывается в четыре шага: ввод пользователя, запрос к модели на Together AI, сохранение результата в Postgres и показ пользователю. По словам спикера, такая простота ускоряет проверку идеи.
- UI занимает большую часть работы — спикер говорит, что тратит около 80% времени на интерфейс. Ранние приложения с плохим видом почти не использовались, а PDF-суммаризатор с продуманным UI собрал десятки тысяч пользователей.
- Шеринг результата как механика роста — приложения, где готовый результат легко отправить другу с нормальной OG-картинкой, по наблюдению спикера растут заметно лучше.
- Новые модели в готовых приложениях — смена модели часто сводится к одной строке, поэтому старые приложения можно перезапустить с новой моделью. BlinkShot на Flux Schnell запустили примерно через два дня после выхода модели.
Кому полезно: разработчикам, которые делают небольшие AI-приложения и хотят проверять идеи на реальных пользователях быстрее, чем за месяц.
Статья по теме
На какие вопросы отвечает доклад
Как придумывать идеи для небольших AI-приложений, которые реально заберут пользователи?
Спикер ведёт список идей и держит топ-5, выбирает короткое запоминающееся название и проверяет, свободен ли домен. Приложения он делает с одним-двумя вызовами API к модели, чтобы быстрее проверить идею.
▶ 4:52Демонстрации приложений и выбор подхода к full-stack-разработкеКакой стек выбрать, чтобы быстро выкатить AI-приложение с регистрацией и базой данных?
Спикер использует Next.js и TypeScript, Neon как serverless Postgres, Clerk для аутентификации, Prisma для работы с базой, S3 для картинок, Vercel для хостинга и Together AI для моделей. Аналитику ведёт через Plausible и Helicone.
▶ 4:52Демонстрации приложений и выбор подхода к full-stack-разработкеКак ограничить расходы на модели в бесплатном AI-приложении?
После прототипа спикер решает, нужна ли аутентификация, сколько запросов в день давать одному пользователю и стоит ли добавить режим bring your own API key. Выбор зависит от того, насколько дорогая модель.
▶ 10:08Ограничения прототипов, контроль затрат и быстрый запуск новых моделейПочему стоит тратить много времени на интерфейс AI-приложения, а не только на модель?
Спикер тратит на интерфейс около 80% времени, потому что его первые приложения выглядели плохо и почти никто ими не пользовался. Простое приложение вроде суммаризации PDF с хорошим UI, по его словам, собрало десятки тысяч пользователей.
▶ 10:08Ограничения прототипов, контроль затрат и быстрый запуск новых моделейКто оплачивает вычисления и вызовы моделей для бесплатных AI-приложений с открытым кодом?
Вычисления для моделей спонсирует Together AI, а база данных и аутентификация идут от партнёров: Neon и Clerk. По словам спикера, компании часто дают кредиты, если попросить их для открытого проекта.
▶ 14:16Вопросы и ответы, завершениеКак обновить AI-приложение, когда выходит новая и более сильная модель?
По словам спикера, часто достаточно поменять название модели в одной строке, и приложение становится лучше или получает новые возможности. Иногда он заново запускает старое приложение с новой моделью.
▶ 14:16Вопросы и ответы, завершение
Главы
Ещё доклады: Hassan El Mghari
Страница спикера →Недостающий слой: вкус в дизайне AI-агентов
AI Engineer World's Fair 2026
AI-инженер по выходным
AI Engineer Summit 2023
Похожие доклады
Как сделать открытые модели в 10 раз быстрее и лучше для современных приложений
Dmytro (Dima) Dzhulgakov, Lin Qiao
AI Engineer World's Fair 2024
Близко по содержанию
Bolt.new: как за 60 дней вырасти с $0 до $20 млн ARR командой из 15 человек
AI Engineer World's Fair 2025
Близко по содержанию
От продакт-менеджера в Stripe до основателя AI-стартапа
AI Engineer World's Fair 2025
Близко по содержанию

