← Каталог

· AI Engineer Code 2025

DSPy: конец prompt engineering

DSPy: The End of Prompt Engineering

LLM-системы для бизнеса проще тестировать и улучшать, если строить их как типизированные Python-программы на DSPy, а не как наборы вручную подобранных промптов.

  • Сигнатуры вместо строк промптов — входы и выходы описываются типами Pydantic, имена полей и docstring попадают в промпт, а адаптер (JSON, BAML) превращает их в запрос к модели. Готовый промпт можно вставить в docstring.
  • Оптимизация по метрике — GEPA подбирает промпт по метрике на 10–100 примерах. По словам автора, в кейсе с сотнями тысяч записей времени точность выросла с 86% до 89%, а разбивка по метрикам показывает, где программа ошибается.
  • Перенос на дешёвую модель — оптимизированная программа позволяет перейти на меньшую модель с сохранением качества, и это главный выигрыш по стоимости.
  • Классификация и границы PDF — документ сначала относится к типу по первым страницам, затем по классификациям страниц находятся границы разделов. На 13-страничном контракте границы, по оценке автора, определены верно.

Кому полезно: тем, кто переводит LLM-пайплайны для обработки документов из прототипа в продакшен и хочет оптимизировать их метриками, а не вручную.

Статья по теме

Главы

Ещё доклады: Kevin Madura

Страница спикера →

Похожие доклады