← Каталог

· AI Engineer World's Fair 2026

Город токенов Notion

Notion's Token Town

Устойчивость AI-продукта зависит не от низкой цены за токен, а от того, можно ли быстро переключить модель под каждую задачу.

  • Цена токена обманчива — апгрейд модели может втрое поднять выходные токены при той же цене, а привязка к одному провайдеру лишает возможности уйти.
  • Маршрутизация по сложности — auto-модель Notion обрабатывает около 75% трафика, а тяжёлые задачи идут к сильнейшим моделям; по словам спикера, отправлять всё в последнюю Opus значит переплачивать.
  • Оценка на траекториях — сравнивать модели стоит по стоимости возможности в секунду на целых сценариях, а не по задержке одного вызова.
  • Открытые веса и CPU — по словам спикера, open-weight модели тянут умеренные задачи, а конвертация CSV в PDF или детерминированные SQL-запросы не требуют LLM.

Кому полезно: тем, кто выбирает модели для продукта и ведёт переговоры с провайдерами LLM.

Статья по теме

Главы

Ещё доклады: Sarah Sachs

Страница спикера →

Похожие доклады