Токен-экономика: почему русский текст дороже английского

2026-06-18

Кириллица занимает в 2–3 раза больше токенов, чем английский. Разбираем, как сэкономить на API-запросах и не терять контекст — с готовой схемой.

Почему русский текст в API стоит в 2–3 раза дороже английского

Компании, которые строят продукты на базе GPT, Claude или других LLM, сталкиваются с неочевидной проблемой: API-расходы растут быстрее, чем ожидалось. Одна из скрытых причин — язык системных промптов.

В чём проблема

LLM считают стоимость в токенах, а не в словах или символах. Токенизатор — это алгоритм, который разбивает текст на фрагменты перед обработкой. Поскольку большинство моделей обучались преимущественно на английском тексте, их словари оптимизированы под латиницу.

Кириллица в UTF-8 кодируется двумя байтами на символ и значительно реже встречается в обучающих корпусах. Результат: русские слова разбиваются на 3–7 токенов там, где английские эквиваленты занимают 1–2.

Практический пример:

Для одного запроса разница незаметна. При тысячах запросов в день — это десятки процентов от бюджета.

Двойной удар: стоимость и контекст

Перерасход токенов бьёт сразу по двум метрикам:

Стоимость. Системный промпт на 300 слов по-русски занимает ~2500 токенов. Тот же промпт на английском — около 900 токенов. Разница в стоимости пропорциональная.

Контекстное окно. Каждый токен в системных инструкциях — это токен, который недоступен для диалога или документов. В агентных системах с длинными сессиями это напрямую влияет на то, как быстро модель начинает «забывать» контекст.

Решение: гибридная языковая стратегия

Модели прекрасно выполняют инструкции на английском и при этом отвечают на языке пользователя — если об этом явно сказать.

Правило: всё, что пишется один раз и хранится в инфраструктуре, — на английском. Всё, что генерируется пользователем динамически, — на любом языке.

На английском:

На русском:

Результат

Команды, перешедшие на английские системные промпты, снижают расходы на токены на 40–60% при том же функционале. Для SaaS-продуктов и агентных систем с высокой нагрузкой это превращается в тысячи долларов экономии в месяц — без изменений в логике или качестве ответов.

Опубликовано на ContentRun, внедрение ИИ в маркетинг и продажи. Что мы делаем.