← Каталог

· AI Engineer World's Fair 2025

#define AI-инженер

#define AI Engineer

По словам Greg Brockman, код стоит строить под сильные стороны моделей: маленькие модули с быстрыми тестами, которые агент запускает сам.

  • Структура кода под модели — модели легко справляются с разнообразием задач, но хуже связывают глубокие идеи, поэтому схему архитектуры задать просто, а заполнять детали трудно. Тесты модель запускает в 100 и более раз чаще человека, поэтому им стоит уделять больше внимания.
  • Codex внутри OpenAI — по словам Brockman, низкий двузначный процент PR в компании написан целиком Codex, и он называет это очень ранней стадией.
  • Сохранение состояния длинных задач — состояние языковой модели явное и его легко сохранить, а восстановить stateful инструменты труднее, поэтому команда рассматривает сохранение состояния всей VM целиком.
  • Баланс ресурсов в кластере — неверно подобранное соотношение вычислений и памяти не делает флот бесполезным: mixture of experts заполняет простаивающую DRAM параметрами без лишних вычислений.

Кому полезно: тем, кто проектирует агентные системы с задачами на часы и дни и думает о сохранении их состояния и распределении ресурсов кластера.

Статья по теме

Главы

Ещё доклады: swyx

Все 12 докладов →

Похожие доклады