· AI Engineer World's Fair 2025
Как устроен Magic Editor: генеративный ИИ в приложении с миллиардом пользователей
Magic Editor Under the Hood: Weaving Generative AI into a Billion-User App
Генеративные фичи редактирования фото для миллиардов пользователей держатся на узкой задаче, оценочных наборах как аналоге unit-тестов и замене больших моделей меньшими.
- Оценочные наборы как unit-тесты — модель всегда возвращает результат, поэтому ошибки не видны без набора на реальных сценариях. По словам спикера, без такого набора нельзя понять, станет ли новая версия модели лучше, а регрессии ловятся только им.
- Ограничения устройства — модель около 10 МБ не умещается в APK, поэтому её скачивают после установки и защищают от извлечения. Время работы на Android-телефонах сильно различается, и это приходится учитывать при проектировании.
- Замена модели после выхода в продакшен — сначала используется большая модель, а когда функция стабилизируется, её заменяют меньшей через дистилляцию или более эффективным решением, в том числе без ML. Это, по словам спикера, ускоряет итерации.
- Вариативность в творческой задаче — в генеративном редакторе нет единственно верного ответа, поэтому несколько вариантов результата считаются нормой. Точность и полноту команда настраивает под ожидания пользователей и медиа.
Кому полезно: тем, кто выводит на продакшен фичи с генерацией изображений или моделями на устройстве и отвечает за их надёжность.
Статья по теме
На какие вопросы отвечает доклад
Как доставить тяжёлую ML-модель в мобильное приложение с ограничением размера APK?
Модели весят мегабайты, поэтому их не вкладывают в APK, а скачивают после установки. Нужно управлять версиями моделей и защищать их от извлечения, потому что инференс идёт на устройстве пользователя.
▶ 4:58Сегментация портретов, размер модели, оценки качества и неопределённостьКак проверять качество on-device модели, чтобы новая версия не давала регрессий?
Нужен бенчмарк, который повторяет реальное использование: он работает как юнит-тесты для модели и требует постоянной поддержки. Если бенчмарк расходится с реальными сценариями, он бесполезен.
▶ 4:58Сегментация портретов, размер модели, оценки качества и неопределённостьПочему исправление ML-бага занимает недели и как планировать релиз с моделью?
Баг нельзя починить правкой кода: исследователи собирают данные и переобучают модель, на что уходят недели или месяц. До жёсткого дедлайна запуска успевают в лучшем случае две итерации модели.
▶ 7:23Пайплайны Magic Eraser и непредсказуемые крайние случаиКак вынести генеративную модель на сервер и не сломать латентность и тестирование?
Придётся планировать мощности под TPU и GPU и учитывать сетевую задержку и перегрузку дата-центров. По словам спикера, большие модели не запускаются в ежедневных тестах, а варианты с записью ответов или тестовым сервером хороших решений не дают.
▶ 7:23Пайплайны Magic Eraser и непредсказуемые крайние случаиКак выпустить генеративную функцию, если она работает лишь в части случаев?
Продукт с надёжностью 5% или 50% не выпускают: задачу нужно сузить и извлекать намерение пользователя из короткого запроса. Для свободных сценариев показывают несколько вариантов, потому что в креативной области нет одного правильного ответа.
▶ 14:37Развитие генеративного AI и пороги надёжности потребительских продуктовКак уменьшить случайность ML-системы и заменить большую модель меньшей в продакшене?
Сначала строят evals и ускоряют их, затем, когда функция приносит пользу, переходят на дистилляцию, более эффективную модель или обычный код без ML. Цель — быстрее итерировать.
▶ 14:37Развитие генеративного AI и пороги надёжности потребительских продуктов
Главы
Похожие доклады
Создание и запуск приложений на базе ИИ
AI Engineer Europe 2026
Близко по содержанию
Панель о передовых генеративных медиа
swyx, Dumitru Erhan, Nicole Brichtova, Shane Gu
AI Engineer World's Fair 2026
Близко по содержанию
Создание и запуск приложений на базе ИИ
Paige Bailey, Ian Ballantyne, Guillaume Vernade
AI Engineer Europe 2026
Близко по содержанию
Создание генеративных моделей изображений и видео в больших масштабах
AI Engineer Europe 2026
Близко по содержанию

