Токены размышления
EN · Thinking TokensТокены размышления — токены, которые модель тратит на промежуточные рассуждения до ответа; оплачиваются, но повышают точность на сложных задачах.Определение на английскомTokens generated by an AI model during an extended reasoning process that are used internally for step-by-step problem-solving but are not shown to the end user. Also called 'reasoning tokens' or 'thinking budget,' these tokens represent the model's intermediate reasoning—similar to scratch work on a math problem. Models like Claude (extended thinking) and OpenAI's o-series use thinking tokens to improve accuracy on complex tasks. Thinking tokens count toward the model's output token usage and billing, but give the model space to reason through multi-step problems, check its work, and consider alternatives before producing a final answer.
Автор: Max Zeshut
Основатель Agentmelt
Пример
Агент для юристов, которого просят проанализировать сложное условие договора, тратит 2 000 токенов размышления: находит релевантные прецеденты, рассматривает пограничные случаи, оценивает риск с разных сторон и проверяет свою логику, прежде чем выдать юристу сжатый анализ на 200 токенов. Токены размышления пользователю не показываются, но резко повышают качество и точность результата.
Часто задаваемые вопросы
- Стоят ли токены размышления дополнительно?
- Токены размышления оплачиваются как выходные, поскольку модель их генерирует. Задача с 200 видимыми токенами может использовать 2 000 токенов размышления за кулисами — итого к оплате 2 200 выходных токенов. Задачи с интенсивным рассуждением выходят дороже за видимый токен, но рост точности часто оправдывает цену. Некоторые провайдеры предлагают бюджеты токенов размышления, чтобы ограничить эту стоимость.