← Каталог

Новый рубеж для агентов: взаимодействие друг с другом и сетевые эффекты

Agents' next frontier: agent-to-agent and network effects — Jean-Denis Greze, Town

Обмен данными между агентами при ограничениях приватности — это задача поиска, и, по мнению спикера, ближайшую отдачу даст общая база знаний, которую ведёт ИИ.

  • Общая база знаний с ИИ-подметальщиком — у каждого приватного контура свой агент по политике, что нельзя выносить наружу; он переносит остальные новые сведения в общее пространство. По словам спикера, быстрее всего это окупится в небольших компаниях, где финансовые и HR-данные закрыты явно.
  • Чёрный ящик с подтверждением человека — агент сам обходит приватные источники и спрашивает владельца данных только перед передачей результата, например при поиске связи с CFO нужной компании. Такой системе нужно доверять, и важно проверять, что без согласия ничего не уходит.
  • Риски — prompt injection через общие пространства, ошибка LLM, которая навсегда закрепляется в вики, и неверное раскрытие, из-за которого кого-то могут уволить или засудить.
  • Автоматический режим — зона низкой чувствительности, где LLM решает сам, будет расти вместе с возможностями моделей; спикер ждёт этого в ближайшие полгода для компаний с высоким доверием внутри.

Кому полезно: тем, кто строит агентов поверх внутренних данных компании и решает, какие сведения можно передавать между командами.

Статья по теме

Главы

Похожие доклады