← Каталог

· AI Engineer World's Fair 2025

MCP — это скучно (или почему мы теряем магию LLM)

MCPs are Boring (or: Why we are losing the Sparkle of LLMs)

Вместо десятков MCP-инструментов с жёсткими схемами LLM стоит дать один eval-инструмент, где она пишет код: по словам автора, это экономит вызовы и токены.

  • Схемы съедают токены — модель генерирует все аргументы сама, поэтому данные из контекста приходится переписывать в вызов, а большой ответ API целиком возвращается в контекст, хотя нужно одно число.
  • Один eval вместо пятнадцати вызовов — в прототипе на Sonnet 4 модель с одним инструментом eval (JavaScript и SQLite) нашла нужные таблицы, отфильтровала данные и ответила за один вызов, а затем из кода собрала CRM с REST API и веб-интерфейсом.
  • Функции лучше tool calls — по наблюдению автора, модель надёжнее работает с большим API из десятков функций, чем с таким же набором tool calls, поэтому библиотеку можно подключить как обычный импорт.
  • Правка вызовов человеком — пользователь может поправить аргументы и результаты до того, как они уйдут модели; по словам автора, это быстрее, чем ждать, пока LLM обработает 30 страниц данных.

Кому полезно: тем, кто строит агентов с большим числом MCP-инструментов и хочет снизить расход токенов и количество вызовов.

Статья по теме

Главы

Ещё доклады: Manuel Odendahl

Страница спикера →

Похожие доклады