← Каталог

· AI Engineer World's Fair 2025

Новый код: спецификации как источник истины

The New Code: Specifications as the Source of Truth

Спецификация, а не код, становится главным артефактом разработки: её можно версионировать, тестировать и использовать и для согласования людей, и для обучения модели.

  • Код как проекция спецификации — код теряет часть намерений и ценностей, заложенных в требования, поэтому спикер предлагает считать исходником спецификацию, а промпты хранить, а не удалять.
  • Model Spec в открытом доступе — набор версионируемых Markdown-файлов на GitHub, где у каждого пункта есть ID и отдельный файл с трудными промптами для его проверки.
  • Откат после сбоя GPT-4o — поведение модели с угодничеством противоречило явному пункту спецификации, и это позволило признать баг и откатить обновление; по словам спикера, спецификация стала опорой для доверия во время инцидента.
  • Спецификация как обучающие и оценочные данные — в deliberative alignment более сильная модель оценивает ответы по спецификации, а веса подкрепляются; по словам спикера, политика переходит из промпта в веса и не расходует вычисления на каждом запросе.

Кому полезно: тем, кто пишет системные промпты и правила поведения модели для продакшена и хочет проверять их как код.

Статья по теме

Главы

Похожие доклады