Новость

Cursor представил умный роутер моделей для снижения затрат на разработку

1 источник

Все новости

Cursor запустил интеллектуальный роутер, который направляет простые запросы на более дешёвые модели, а сложные — на более мощные. По данным компании, это позволяет снизить затраты без потери качества.

Cursor запустил интеллектуальный роутер моделей для снижения затрат разработчиков. Система оценивает каждый запрос по сложности, контексту и домену и отправляет простые задачи на дешёвые модели, а длинные и сложные — на более мощные reasoning-модели. Классификатор обучался на 600 тысячах живых запросов. Качество проверяли не на бенчмарках, а через онлайн A/B-тесты на миллионах реальных запросов. Среди основных метрик — удовлетворённость пользователя и доля сгенерированного кода, который остаётся в кодовой базе. По данным Cursor, режим Intelligence показывает сопоставимую удовлетворённость при затратах на 60% ниже. Стоимость одного коммита составляет $6,76 против $12,69 у Fable 5 и $7,34 у Opus 4.8. Корпоративные клиенты в раннем доступе, как утверждается, сэкономили 30–50% без потери качества. Функция пока доступна только на планах Teams и Enterprise.

Источники 1
  • Cursor представил умный роутер моделей для снижения затрат на разработку Нейроканал 
    Cursor запустил умный роутер моделей. Около 60% разработчиков выбирают одну модель и гоняют через неё всё подряд, поэтому рутинные правки оплачиваются по фронтирным ценам. Роутер решает это: классификатор оценивает каждый запрос по сложности, контексту и домену, простая рутина уходит на дешёвые модели, а длинные сложные задачи на топовые reasoning-модели.

Обучали классификатор на 600 тысячах живых запросов, а качество мерили не бенчмарками, а онлайн A/B-тестами на миллионах реальных запросов. Метрики две: удовлетворённость пользователя (пошёл делать следующую фичу или стал исправлять агента) и доля сгенерированного кода, которая осталась в кодовой базе. Роутер учитывает и кеш: экономия посчитана с учётом cache-миссов при переключении моделей.

Результаты: режим Intelligence по удовлетворённости выходит на уровень Fable при затратах на 60% ниже. Стоимость одного коммита 6,76 $ против 12,69 $ у Fable 5 и 7,34 $ у Opus 4.8. Энтерпрайз-клиенты в раннем доступе сэкономили 30–50% без потери качества. Пока доступно только на планах Teams и Enterprise.

💻 За таким роутером стоит обычная работа ИИ-инженера: управлять качеством и стоимостью генерации и следить за LLM-сервисом в проде. Освоить её можно на курсе «ИИ-инженер» в Практикуме PRO: архитектура LLM, RAG-системы, ИИ-агенты, оптимизация и мониторинг LLM-сервисов в продакшне.

@neuro_channel