От Arc к Dia: уроки создания AI-браузера
From Arc to Dia: Lessons learned in building AI Browser
Инструменты прототипирования, встроенные прямо в AI-браузер Dia, по словам автора, ускоряют итерации, а от prompt injection надёжнее защищает подтверждение действий пользователем.
- Инструменты внутри продукта — промпты, контекст, модели и параметры правятся в самом продукте, поэтому экспериментировать могут не только инженеры. По словам автора, скорость итераций выросла в 10 раз.
- GEPA для промптов — промпты прогоняются по задачам, лучшие отбираются через Pareto selection, а LLM на основе рефлексии пишет новые варианты. Оптимизируется текст, а не веса модели, поэтому RL и fine-tuning не нужны.
- Роль model behavior — сотрудник из отдела стратегии и операций переписал промпты за выходные с помощью этих инструментов, и так появилась отдельная команда Model Behavior.
- Защита от prompt injection — браузер сочетает доступ к личным данным, недоверенный контент и возможность отправлять данные наружу, а промпт-защита гарантий не даёт. Поэтому перед записью в формы, письма и события пользователь видит данные в открытом тексте и подтверждает их.
Кому полезно: тем, кто встраивает LLM-функции с доступом к личным данным пользователя и хочет ускорить эксперименты с промптами.
Статья по теме
На какие вопросы отвечает доклад
Как дать нетехническим сотрудникам возможность менять промпты продукта с их рабочим контекстом?
Команда перенесла инструменты для промптов, контекста, моделей и параметров внутрь самого продукта, и ими стали пользоваться продуктовые, дизайн, поддержка и ops-команды. По словам спикера, скорость идеации и доработки выросла в 10 раз.
▶ 3:37Ускорение итераций AI за счёт интеграции прототипирования и evalsКак оптимизировать промпты LLM-системы без RL и fine-tuning?
Спикер описывает GEPA: набор промптов прогоняют по задачам и оценивают по метрикам, отбирают лучшие через Pareto selection, затем LLM анализирует результаты и пишет новые промпты. По его словам, метод эффективен по числу примеров и меняет текст, а не веса.
▶ 6:28Оптимизация промптов с GEPAПочему AI-браузер особенно уязвим для промпт-инъекций и утечки личных данных?
Браузер сочетает доступ к приватным данным, контакт с недоверенным контентом и возможность внешних действий: открыть сайт, отправить письмо, создать событие. Скрытая инструкция в HTML может заставить агента передать данные через GET-параметры URL.
▶ 13:27Риски утечки данных в AI-браузерахКакие приёмы разделения инструкций и контента снижают риск prompt injection, и хватает ли их?
Спикер перечисляет обёртку недоверенного текста в теги и разделение инструкций по system role, а контента по user role со случайными тегами. По его словам, это помогает, но гарантий нет, поэтому защиту нужно закладывать в дизайн продукта.
▶ 13:27Риски утечки данных в AI-браузерахКак защитить пользователя, если агент в браузере заполняет формы и отправляет письма его данными?
Перед записью данных в форму, письмо или событие пользователь видит их в открытом тексте и подтверждает действие. Спикер признаёт, что это не предотвращает инъекцию, но даёт пользователю контроль и понимание того, что происходит.
▶ 16:00Подтверждение действий пользователем и переход к AI-native-продуктам
Главы
Похожие доклады
Всё, что нужно, — это веб-браузер
AI Engineer World's Fair 2025
Близко по содержанию
От продакт-менеджера в Stripe до основателя AI-стартапа
AI Engineer World's Fair 2025
Близко по содержанию
Сквозь туман ИИ: архитектурное решение, от которого зависят следующие 24 месяца безопасности агентного ИИ
Ezra Tanzer, Manoj Nair, Randall Degges
AI Engineer World's Fair 2026
Близко по содержанию
Хороший дизайн не изменился с появлением AI
AI Engineer World's Fair 2025
Близко по содержанию

