Core AI

Токены и токенизация

Токены — это единицы текста, которыми модель измеряет вход и выход: от них зависят лимиты контекста, скорость ответа и стоимость обработки.

Как использовать термин

Что смотреть рядом

Этот термин полезно читать вместе с соседними понятиями из раздела и связанными сценариями запуска Gravity AI.

Раздел глоссария

Базовые понятия, без которых сложно обсуждать LLM-продукт осмысленно: как модель понимает запрос, почему важен контекст и откуда берётся управляемость ответа.

Что это

Практическое определение

Токены — это единицы текста, которыми модель измеряет вход и выход: от них зависят лимиты контекста, скорость ответа и стоимость обработки.

Пример в eCommerce

Если в ответ подмешивать слишком много описаний товаров, история диалога становится дороже и медленнее, поэтому каталожный контекст нужно собирать аккуратно.

Бизнес-эффект

Влияет на стоимость сессии, latency и масштабируемость сценария при росте трафика.

Нужен не просто словарь, а рабочий сценарий для вашего каталога?

Покажем, с какого сценария лучше начать, как связать его с метриками и где быстрее всего получить измеримый результат.