· AI Engineer World's Fair 2026
Я создал ChatGPT — теперь строю то, что будет дальше
Jev CEO: I made ChatGPT, now I'm building what's next
RLHF учил модели нравиться людям, поэтому они хороши в ассистировании, а для надёжной автоматизации, по словам спикера, нужен стек, построенный заново.
- Асимметрия reward model — модель вознаграждения легко наказывает неуверенность, поэтому модели учатся звучать уверенно. По словам спикера, галлюцинации заложены в оптимизацию под предпочтения человека, а не возникают случайно.
- Три цели пост-обучения — RLHF оптимизирует предпочтения человека, RLVR оптимизирует корректность ответов, а спикер предлагает третью цель: калиброванные решения без постоянного контроля человека.
- Данные важнее вычислений — спикер утверждает, что данные важнее compute, а правильно поставленная задача важнее данных. Это его тезис, а не результат эксперимента.
- Ассистирование против автоматизации — по его оценке, SaaS почти не изменился с 2019 года, а AI в основном добавляет помощника сбоку. Claude Code и чат-продукты он относит к той же эпохе ассистирования.
Кому полезно: тем, кто думает о агентах, которые принимают решения с последствиями и должны работать без постоянного надзора человека.
Статья по теме
Главы
Похожие доклады
Масштабирование для задач с длинным горизонтом
AI Engineer World's Fair 2026
Близко по содержанию
От RL к IRL
AI Engineer World's Fair 2026
Близко по содержанию
Создание агентов для совместного творчества
AI Engineer Summit 2025
Близко по содержанию
Как OpenAI создала ChatGPT для банкиров и аналитиков
Близко по содержанию

