DSPy: конец prompt engineering
DSPy: The End of Prompt Engineering
LLM-системы для бизнеса проще тестировать и улучшать, если строить их как типизированные Python-программы на DSPy, а не как наборы вручную подобранных промптов.
- Сигнатуры вместо строк промптов — входы и выходы описываются типами Pydantic, имена полей и docstring попадают в промпт, а адаптер (JSON, BAML) превращает их в запрос к модели. Готовый промпт можно вставить в docstring.
- Оптимизация по метрике — GEPA подбирает промпт по метрике на 10–100 примерах. По словам автора, в кейсе с сотнями тысяч записей времени точность выросла с 86% до 89%, а разбивка по метрикам показывает, где программа ошибается.
- Перенос на дешёвую модель — оптимизированная программа позволяет перейти на меньшую модель с сохранением качества, и это главный выигрыш по стоимости.
- Классификация и границы PDF — документ сначала относится к типу по первым страницам, затем по классификациям страниц находятся границы разделов. На 13-страничном контракте границы, по оценке автора, определены верно.
Кому полезно: тем, кто переводит LLM-пайплайны для обработки документов из прототипа в продакшен и хочет оптимизировать их метриками, а не вручную.
Статья по теме
Главы
Ещё доклады: Kevin Madura
Страница спикера →Похожие доклады
Playground в продакшене: оптимизация agents в production-среде
AI Engineer Europe 2026
Близко по содержанию
Необычайная эффективность разделения задачи и модели
AI Engineer World's Fair 2026
Близко по содержанию
Практикум по смене моделей: GPT-5.5 против Kimi, DeepSeek и Mistral
AI Engineer World's Fair 2026
Близко по содержанию
Оптимизация LLM в страховании с DSPy: за пределами ручной настройки
AI Engineer World's Fair 2024
Близко по содержанию

