← Каталог

· AI Engineer World's Fair 2025

Как устроен Magic Editor: генеративный ИИ в приложении с миллиардом пользователей

Magic Editor Under the Hood: Weaving Generative AI into a Billion-User App

Генеративные фичи редактирования фото для миллиардов пользователей держатся на узкой задаче, оценочных наборах как аналоге unit-тестов и замене больших моделей меньшими.

  • Оценочные наборы как unit-тесты — модель всегда возвращает результат, поэтому ошибки не видны без набора на реальных сценариях. По словам спикера, без такого набора нельзя понять, станет ли новая версия модели лучше, а регрессии ловятся только им.
  • Ограничения устройства — модель около 10 МБ не умещается в APK, поэтому её скачивают после установки и защищают от извлечения. Время работы на Android-телефонах сильно различается, и это приходится учитывать при проектировании.
  • Замена модели после выхода в продакшен — сначала используется большая модель, а когда функция стабилизируется, её заменяют меньшей через дистилляцию или более эффективным решением, в том числе без ML. Это, по словам спикера, ускоряет итерации.
  • Вариативность в творческой задаче — в генеративном редакторе нет единственно верного ответа, поэтому несколько вариантов результата считаются нормой. Точность и полноту команда настраивает под ожидания пользователей и медиа.

Кому полезно: тем, кто выводит на продакшен фичи с генерацией изображений или моделями на устройстве и отвечает за их надёжность.

Статья по теме

На какие вопросы отвечает доклад

  • Как доставить тяжёлую ML-модель в мобильное приложение с ограничением размера APK?

    Модели весят мегабайты, поэтому их не вкладывают в APK, а скачивают после установки. Нужно управлять версиями моделей и защищать их от извлечения, потому что инференс идёт на устройстве пользователя.

    ▶ 4:58Сегментация портретов, размер модели, оценки качества и неопределённость
  • Как проверять качество on-device модели, чтобы новая версия не давала регрессий?

    Нужен бенчмарк, который повторяет реальное использование: он работает как юнит-тесты для модели и требует постоянной поддержки. Если бенчмарк расходится с реальными сценариями, он бесполезен.

    ▶ 4:58Сегментация портретов, размер модели, оценки качества и неопределённость
  • Почему исправление ML-бага занимает недели и как планировать релиз с моделью?

    Баг нельзя починить правкой кода: исследователи собирают данные и переобучают модель, на что уходят недели или месяц. До жёсткого дедлайна запуска успевают в лучшем случае две итерации модели.

    ▶ 7:23Пайплайны Magic Eraser и непредсказуемые крайние случаи
  • Как вынести генеративную модель на сервер и не сломать латентность и тестирование?

    Придётся планировать мощности под TPU и GPU и учитывать сетевую задержку и перегрузку дата-центров. По словам спикера, большие модели не запускаются в ежедневных тестах, а варианты с записью ответов или тестовым сервером хороших решений не дают.

    ▶ 7:23Пайплайны Magic Eraser и непредсказуемые крайние случаи
  • Как выпустить генеративную функцию, если она работает лишь в части случаев?

    Продукт с надёжностью 5% или 50% не выпускают: задачу нужно сузить и извлекать намерение пользователя из короткого запроса. Для свободных сценариев показывают несколько вариантов, потому что в креативной области нет одного правильного ответа.

    ▶ 14:37Развитие генеративного AI и пороги надёжности потребительских продуктов
  • Как уменьшить случайность ML-системы и заменить большую модель меньшей в продакшене?

    Сначала строят evals и ускоряют их, затем, когда функция приносит пользу, переходят на дистилляцию, более эффективную модель или обычный код без ML. Цель — быстрее итерировать.

    ▶ 14:37Развитие генеративного AI и пороги надёжности потребительских продуктов

Главы

Похожие доклады