← Каталог

· AI Engineer World's Fair 2026

От fork() к Fleet: проектирование облака песочниц для агентов

From fork() to Fleet: Designing an Agent Sandbox Cloud — Abhishek Bhardwaj, OpenAI

Для песочниц агентов стоит сразу брать microVM, а долгие задачи надёжнее всего вести через дисковые снапшоты, которые восстанавливаются на другом узле.

  • Контейнеры делят ядро с хостом — seccomp ограничивает системные вызовы, но заранее не знаешь, какие нужны агенту, и правила приходится постоянно менять. Спикер советует брать microVM на Rust-VMM вроде Firecracker или cloud-hypervisor: цена есть в overhead на переходах и в GPU через VFIO, который отдаётся только одной песочнице.
  • Инкрементальные снапшоты диска — copy-on-write слой поверх базового образа и FIEMAP, который находит изменённые блоки, позволяют выгружать только разницу. По словам спикера, снапшот возвращается сразу, а загрузка в облако идёт в фоне.
  • Persistence ради надёжности — после сбоя узла sandbox поднимается из checkpoint на другом узле, а снапшоты позволяют откатываться при переборе вариантов. Для общего диска выбран NBD с многоуровневым кэшем вместо NFS, который медленнее и не POSIX-совместим.
  • Маршрутизация по слоям снапшота — восстановление уходит на узел, где уже есть больше всего слоёв цепочки, поэтому скачивается меньше данных. Спикер также сравнивает warm pool и восстановление из memory snapshot как способы снизить задержку старта.

Кому полезно: тем, кто строит песочницы для агентов или RL-нагрузок и выбирает между контейнерами, gVisor и microVM.

Статья по теме

Главы

Ещё доклады: Abhishek Bhardwaj

Страница спикера →

Похожие доклады