Lukas Petersson — со-основатель Andon Labs, компании, которая изучает поведение автономных агентов в бизнес-условиях. Он создатель Vending-Bench, долгосрочной оценки того, могут ли агенты вести бизнес на протяжении длительного времени. Раньше он работал над flight software в European Space Agency, над автономностью в comma.ai и над исследованиями в Google и Disney Research. Andon Labs сотрудничала с Anthropic над Project Vend, а сейчас запускает реальные бизнесы с агентами: магазин в Сан-Франциско, кафе в Стокгольме и радиостанции. В докладе речь идёт о сговорах и обмане между агентами, а также о воспроизводимости их оценок.

Темы докладов: Evals и бенчмарки и Безопасность и governance.

AI Engineer World's Fair 20261