Что нужно, чтобы создать персонального локального приватного AI Agent, который всерьёз расширяет ваши возможности?
What does it take to build a personal, local, private AI Agent that augments you deeply?
Персональных агентов, которым нужны весь личный контекст и право действовать, лучше запускать локально и приватно: без полного контекста они уверенно отвечают неверно.
- Mac mini как домашний хост — постоянно включённый Mac mini с интернетом запускает агентов асинхронно и без проблем с батареей, а сервисы в нём залогинены один раз. По словам спикера, Apple на телефоне не даёт держать такие фоновые процессы.
- Неполный контекст ломает доверие — агент с доступом к Gmail и WhatsApp, но без iMessage, ответил, что рецепт не продлён, хотя аптека прислала SMS. Пока ответ нельзя проверить, агент бесполезен.
- Классификатор катастрофических действий — ошибочный переход по ссылке обратим, а покупка машины вместо продления заказа стиральных капсул нет. Спикер считает, что агенту нужно распознавать такие действия до выполнения и спрашивать пользователя, и исследований в этой области мало.
- Локальность как контроль — по аргументам спикера, облачный провайдер может поменять поведение агента ради комиссий, а даже корпоративные контракты предполагают обязательное логирование.
Кому полезно: тем, кто строит персональных агентов с доступом к почте, мессенджерам и финансам.
Статья по теме
На какие вопросы отвечает доклад
Почему персональный агент отвечает неверно, если у него нет доступа ко всем источникам?
Агент с доступом только к почте уверенно ответил, что рецепт не продлён, потому что сообщение аптеки пришло в iMessage. Без полного контекста даже умная модель бесполезна, пока её ответы не станут предсказуемыми.
▶ 2:22Определение агентов и проблема неполного персонального контекстаГде запускать персонального агента, если телефон ограничивает фоновую работу, а носимые устройства садятся?
Спикер советует держать дома Mac mini постоянно включённым и подключённым к интернету: агенты работают асинхронно без ограничений батареи, а в сервисы можно войти один раз.
▶ 5:17Ограничения носимых устройств и Apple, а также постоянно включённый Mac miniПочему персонального агента лучше держать локально, а не в облачном сервисе?
По словам спикера, при широком наборе действий важно контролировать худший сценарий, не зависеть от закрытых экосистем и не отдавать облаку личные запросы, которые могут логироваться.
▶ 8:24Конфиденциальность, делегированные действия и доверие к облачным провайдерамКак не дать агенту совершить необратимое действие, например крупную покупку по ошибке?
Нужны классификаторы катастрофических действий, которые распознают опасный шаг до выполнения и уведомляют пользователя. По словам спикера, исследований в этой области пока недостаточно.
▶ 15:28Защита от катастрофических действий и заключительное объявлениеПочему большие открытые модели работают на домашнем железе очень медленно?
Модели на 20 млрд параметров или дистиллированные работают быстро, а полные несжатые модели вроде R1 на личной машине идут очень медленно. Для локального сервинга спикер называет vLLM и SGLang.
▶ 5:17Ограничения носимых устройств и Apple, а также постоянно включённый Mac miniПочему агенты плохо подбирают покупки по визуальному описанию и ломаются при управлении компьютером?
По словам спикера, даже закрытые модели часто ломаются в computer use. При подборе покупок агенты опираются на текстовое сопоставление и не видят визуальных признаков, например материала ножек дивана.
▶ 5:17Ограничения носимых устройств и Apple, а также постоянно включённый Mac mini
Главы
Похожие доклады
Конфиденциальность прежде всего: создание AI-агентов, которые не покидают границы безопасности компании
AI Engineer Summit 2025
Близко по содержанию
Я создал персонального AI-агента на Raspberry Pi
Близко по содержанию
Реальные атаки на AI-агентов и меры, которые могли бы их предотвратить
Близко по содержанию
Состояние дел: почему локальный ИИ и почему именно сейчас
Ahmad Osman, Alex Cheema, Nader Khalil, Joseph Nelson, Matthew Berman
AI Engineer World's Fair 2026
Близко по содержанию

