· AI Engineer World's Fair 2026
Город токенов Notion
Notion's Token Town
Устойчивость AI-продукта зависит не от низкой цены за токен, а от того, можно ли быстро переключить модель под каждую задачу.
- Цена токена обманчива — апгрейд модели может втрое поднять выходные токены при той же цене, а привязка к одному провайдеру лишает возможности уйти.
- Маршрутизация по сложности — auto-модель Notion обрабатывает около 75% трафика, а тяжёлые задачи идут к сильнейшим моделям; по словам спикера, отправлять всё в последнюю Opus значит переплачивать.
- Оценка на траекториях — сравнивать модели стоит по стоимости возможности в секунду на целых сценариях, а не по задержке одного вызова.
- Открытые веса и CPU — по словам спикера, open-weight модели тянут умеренные задачи, а конвертация CSV в PDF или детерминированные SQL-запросы не требуют LLM.
Кому полезно: тем, кто выбирает модели для продукта и ведёт переговоры с провайдерами LLM.
Статья по теме
Главы
Ещё доклады: Sarah Sachs
Страница спикера →Как создавать ИИ-продукты мирового уровня
Doug Guthrie, Carlos Esteban, Sarah Sachs
AI Engineer World's Fair 2025
Похожие доклады
Цена интеллекта: ценообразование AI-агентов в 2025 году
AI Engineer Summit 2025
Близко по содержанию
Хватит арендовать когнитивную инфраструктуру
AI Engineer World's Fair 2026
Близко по содержанию
Как зарабатывать на AI
AI Engineer World's Fair 2025
Близко по содержанию

