Новость

Почему один запрос агента стоил 120 000 токенов: разбор и оптимизация

1 источник

Все новости

Разработчики автономного агента заметили, что один пользовательский запрос обходится в 38 кредитов — примерно в три раза дороже ожидаемой цены на OpenRouter. Они разобрали причину перерасхода и внедрили оптимизацию.

Команда делает автономного агента, который не только отвечает, но и выполняет задачи: ищет в сети, генерирует медиа, режет видео на клипы и публикует результат. В основе — агентный цикл на базе hermes-agent, собственные инструменты через MCP и оплата по токенам. Один ход агента потребляет 120 000 токенов, из-за чего пользовательский запрос оказался заметно дороже ожидаемого. Разработчики провели расследование, нашли неожиданную причину и затем внедрили оптимизацию.

Источники 1
  • Почему один запрос агента стоил 120 000 токенов: разбор и оптимизация Habr AI 
    Один ход агента — 120 000 токенов. Разбираемся, куда они уходят и как мы это починили

Мы делаем автономного агента, который умеет не отвечать, а делать: искать в сети, генерировать медиа, резать видео на клипы, публиковать результат. Под капотом - агентный цикл на базе hermes-agent, свои инструменты через MCP и оплата по токенам.

И вот приходит пользователь с вопросом, от которого неприятно холодеет: «Почему один мой запрос стоил 38 кредитов? Я посмотрел цены на OpenRouter - по факту это должно было стоить втрое меньше».

Он был прав. Дальше - как мы искали причину, что нашли (спойлер: не то, что ожидали) и что с этим сделали. Читать далее

#llm #агенты #токены #prompt_engineering #ai #openrouter #агентные_системы #оптимизация #биллинг | @habr_ai