Перейти к основному содержанию

Нажмите o200k_base или cl100k_base, чтобы подсчитать текстовые токены, и одновременно проверьте кодовую точку Unicode, количество байтов UTF-8 и идентификатор токена. Подходит для сравнения длины текста без выдачи результатов за типовые счета.

Необработанный текст статистики по выбранной кодировке, а не универсальный результат для всех моделей или счет. Оболочки чата, определения инструментов, изображения и скрытые подсказки не учитываются. Таблица сегментации слов может загружаться немного медленно в первый раз.

Символы 20/20,000

Сочетание клавиш: Ctrl/⌘+Enter. Изменение входных данных или параметров удаляет старые результаты.

Инструкция по применению

  1. Выберите соответствующую кодировку сегментации слов в соответствии с данными целевой модели.
  2. Вставьте текст или загрузите примеры кода на китайском и английском языках и нажмите «Токен статистики».
  3. Проверьте счетную карту и идентификатор токена; пересчитать после переключения кодировки.

Примеры ввода и вывода

Пример ввода
hello(cl100k_base)
Пример вывода
Количество жетонов: 1 Кодовая точка Юникода: 5 UTF-8 байт: 5

Границы сегментации слов в разных текстах и разных кодировках могут быть разными, и фиксированное соотношение количества слов не может использоваться для замены фактической сегментации слов.

Часто задаваемые вопросы

Здесь учитывается только введенный исходный текст, а упаковка чата, определения инструментов, изображения, скрытые подсказки или выходной контент не учитываются. Фактический счет выставляется на основе данных об использовании, полученных от поставщика услуг.

Нет. Язык, пробелы, пунктуация и код влияют на сегментацию слов. Когда список идентификаторов превысит 200, будут отображаться только первые 200, но общее количество токенов все равно будет подсчитано и введено полностью.

Расчетная база и справочные материалы

Используйте кодировку o200k_base или cl100k_base gpt-tokenizer для токенизации обычного текста, отображая как количество кодовых точек, так и количество байтов UTF-8. Не включает дополнительное использование пакетов чата, изображений или вызовов инструментов.

Проверка содержимого: · Об этом сайте и описании контента

Сопутствующие инструменты