Gemini Nano на устройстве
Gemini Nano on device — Florina Muntenescu & Oli Gaymond, Google DeepMind
Gemini Nano на Android живёт в системном сервисе AICore, поэтому приложение не таскает модель весом в гигабайты, а при её отсутствии запрос уходит в облако.
- Одна модель на все приложения — минимальная модель весит около гигабайта, поэтому система загружает её один раз и делит между приложениями; фоновые запросы ставятся в очередь, а приложение на переднем плане получает приоритет.
- Батарея — по словам спикеров, сценарии с 10–20 запросами в день заметно батарею не расходуют, а пакетную обработку лучше запускать в фоне на зарядке, например ночью.
- Hybrid через Firebase AI Logic — если Gemini Nano недоступен на устройстве, инференс уходит в облако на модели Gemini Flash или Pro, и функция работает на большем числе телефонов.
- Доступ к данным — prompt API принимает текст и изображения и отвечает текстом; RAG-подобные сценарии возможны уже сейчас, а embedding API, по словам спикеров, появится скоро.
Кому полезно: тем, кто добавляет в Android-приложение функции с чувствительными данными или офлайн-работой и не хочет платить за каждый инференс.
Статья по теме
Главы
Похожие доклады
Всё, что я узнал об обучении передовых малых моделей
AI Engineer Europe 2026
Близко по содержанию
Развёртывание GPU в облаке, не выходя из IDE
AI Engineer Europe 2026
Близко по содержанию
Запуск Gemma 4 на iPhone: 40 токенов/с с MLX
AI Engineer Europe 2026
Близко по содержанию
Зачем большие? Маленькие языковые модели и agents на периферийных устройствах и в робототехнике
AI Engineer World's Fair 2026
Близко по содержанию


