← Каталог

· AI Engineer Summit 2023

Сместиться влево: как стать AI-инженером с опытом full-stack-разработки

Shift Left: How to Become an AI Engineer from a Full-Stack Background

Full-stack разработчик может войти в AI-инженерию без ML-опыта: прототипировать на API OpenAI, а при масштабировании переходить на fine-tuning открытой модели.

  • Прототип на OpenAI, потом открытая модель — спикер советует сначала выпустить решение на моделях OpenAI и собрать данные об использовании, а при масштабировании дообучить дешёвую открытую модель. По кейсу OpenPipe, который он приводит, Llama 2 за $19 показала результат, на который у OpenAI ушло бы около $24 000.
  • Evals вместо интуиции — перед fine-tuning нужен повторяемый процесс оценки, иначе не видно, улучшение это или регресс. Спикер советует начать с примеров evals из документации OpenAI и с их фреймворка, а для выхода LLM часто придумывать собственные проверки.
  • Лучшие промпты как обучающие данные — по словам спикера, prompt engineering объективно повышает качество ответов, а удачные промпты стоит использовать в обучающей выборке для fine-tuning.

Кому полезно: full-stack разработчикам, которые хотят перейти в AI-инженерию и не знают, с чего начать.

Статья по теме

Главы

Похожие доклады