← Каталог

· AI Engineer Code 2025

От Arc к Dia: уроки создания AI-браузера

From Arc to Dia: Lessons learned in building AI Browser

Инструменты прототипирования, встроенные прямо в AI-браузер Dia, по словам автора, ускоряют итерации, а от prompt injection надёжнее защищает подтверждение действий пользователем.

  • Инструменты внутри продукта — промпты, контекст, модели и параметры правятся в самом продукте, поэтому экспериментировать могут не только инженеры. По словам автора, скорость итераций выросла в 10 раз.
  • GEPA для промптов — промпты прогоняются по задачам, лучшие отбираются через Pareto selection, а LLM на основе рефлексии пишет новые варианты. Оптимизируется текст, а не веса модели, поэтому RL и fine-tuning не нужны.
  • Роль model behavior — сотрудник из отдела стратегии и операций переписал промпты за выходные с помощью этих инструментов, и так появилась отдельная команда Model Behavior.
  • Защита от prompt injection — браузер сочетает доступ к личным данным, недоверенный контент и возможность отправлять данные наружу, а промпт-защита гарантий не даёт. Поэтому перед записью в формы, письма и события пользователь видит данные в открытом тексте и подтверждает их.

Кому полезно: тем, кто встраивает LLM-функции с доступом к личным данным пользователя и хочет ускорить эксперименты с промптами.

Статья по теме

На какие вопросы отвечает доклад

  • Как дать нетехническим сотрудникам возможность менять промпты продукта с их рабочим контекстом?

    Команда перенесла инструменты для промптов, контекста, моделей и параметров внутрь самого продукта, и ими стали пользоваться продуктовые, дизайн, поддержка и ops-команды. По словам спикера, скорость идеации и доработки выросла в 10 раз.

    ▶ 3:37Ускорение итераций AI за счёт интеграции прототипирования и evals
  • Как оптимизировать промпты LLM-системы без RL и fine-tuning?

    Спикер описывает GEPA: набор промптов прогоняют по задачам и оценивают по метрикам, отбирают лучшие через Pareto selection, затем LLM анализирует результаты и пишет новые промпты. По его словам, метод эффективен по числу примеров и меняет текст, а не веса.

    ▶ 6:28Оптимизация промптов с GEPA
  • Почему AI-браузер особенно уязвим для промпт-инъекций и утечки личных данных?

    Браузер сочетает доступ к приватным данным, контакт с недоверенным контентом и возможность внешних действий: открыть сайт, отправить письмо, создать событие. Скрытая инструкция в HTML может заставить агента передать данные через GET-параметры URL.

    ▶ 13:27Риски утечки данных в AI-браузерах
  • Какие приёмы разделения инструкций и контента снижают риск prompt injection, и хватает ли их?

    Спикер перечисляет обёртку недоверенного текста в теги и разделение инструкций по system role, а контента по user role со случайными тегами. По его словам, это помогает, но гарантий нет, поэтому защиту нужно закладывать в дизайн продукта.

    ▶ 13:27Риски утечки данных в AI-браузерах
  • Как защитить пользователя, если агент в браузере заполняет формы и отправляет письма его данными?

    Перед записью данных в форму, письмо или событие пользователь видит их в открытом тексте и подтверждает действие. Спикер признаёт, что это не предотвращает инъекцию, но даёт пользователю контроль и понимание того, что происходит.

    ▶ 16:00Подтверждение действий пользователем и переход к AI-native-продуктам

Главы

Похожие доклады