🧠 Запросы AI-моделям на русском обходятся заметно дороже, чем на английском
Один и тот же текст токенизаторы режут на разное число токенов, а платят именно за них. Для русского кусочки у большинства моделей мельче, поэтому тот же смысл занимает больше токенов. Больше всего у Claude Opus 5.
Причина в том, на каких текстах обучали токенизатор: если русского там мало - слова дробятся.
Кэпитал News
Post #29904
2.12K

- 👍 10
- 🔥 3
- 😁 3
- 🤩 2
- 🤯 1