← Каталог

· AI Engineer World's Fair 2026

Я создал ChatGPT — теперь строю то, что будет дальше

Jev CEO: I made ChatGPT, now I'm building what's next

RLHF учил модели нравиться людям, поэтому они хороши в ассистировании, а для надёжной автоматизации, по словам спикера, нужен стек, построенный заново.

  • Асимметрия reward model — модель вознаграждения легко наказывает неуверенность, поэтому модели учатся звучать уверенно. По словам спикера, галлюцинации заложены в оптимизацию под предпочтения человека, а не возникают случайно.
  • Три цели пост-обучения — RLHF оптимизирует предпочтения человека, RLVR оптимизирует корректность ответов, а спикер предлагает третью цель: калиброванные решения без постоянного контроля человека.
  • Данные важнее вычислений — спикер утверждает, что данные важнее compute, а правильно поставленная задача важнее данных. Это его тезис, а не результат эксперимента.
  • Ассистирование против автоматизации — по его оценке, SaaS почти не изменился с 2019 года, а AI в основном добавляет помощника сбоку. Claude Code и чат-продукты он относит к той же эпохе ассистирования.

Кому полезно: тем, кто думает о агентах, которые принимают решения с последствиями и должны работать без постоянного надзора человека.

Статья по теме

Главы

Похожие доклады