← Каталог

· AI Engineer World's Fair 2026

В шкуре агента: создание персонального агента для семьи и друзей — от групповых чатов до умных очков

Wearing the Agent: Engineering a Family-and-Friends Personal Agent, from Group Chats to Glasses

Агент для семьи и друзей требует защиты на уровне действий, а не входа, курируемой памяти и решения, когда молчать.

  • Защита на уровне действий — статическая проверка навыков не видит рисков их совместной работы: по описанию спикера, OCR и модуль отчётов по отдельности безопасны, но вместе могут отправить PII третьей стороне. Спикер предлагает детерминированный фильтр на чтении секретов, экспорте и bash-командах, а поверх него LoRA-дообученную SLM, которая отделяет инструкции от данных; на InjecAgent наивный подход дал около 50%, обученная модель улучшила результат.
  • Память как курируемое состояние — вместо хранения всей переписки спикер извлекает атомарные факты и оценивает их релевантность непрерывно, поэтому меньше токенов. Ingestion стоит строить с учётом KV cache, иначе он ломается при локальной и облачной выдаче памяти.
  • Приватность через адаптеры — общий слой памяти плюс отдельный LoRA-адаптер на каждого пользователя позволяют заложить права доступа в модель, а не в код.
  • Решение, когда отвечать — агенты в групповых чатах склонны говорить без вопроса. Спикер экспериментирует с классификатором (например, RoBERTa), который определяет роль участника и право на ответ; работа в процессе.

Кому полезно: тем, кто строит агентов для групповых чатов, семейных ассистентов или сценариев с несколькими пользователями и общей памятью.

Статья по теме

Главы

Похожие доклады