Token计数器
粘贴或输入文本以查看所选AI模型的实时Token计数
加载中......
为AI开发者、提示词工程师以及所有使用大型语言模型的人提供的全面Token计数器。
无需任何配置。只需粘贴文本,选择模型,即可立即看到结果。
直接输入文本或上传文件。计数器可高效处理任意长度的文本。
从GPT-4、Claude、Llama、Gemini、Mistral等中选择。每个模型使用其专用分词器。
即时获取Token计数、上下文使用百分比和完整的文本统计信息。
开发者和AI从业者如何使用我们的Token计数器
粘贴或输入文本以查看所选AI模型的实时Token计数
Token计数器
粘贴或输入文本以查看所选AI模型的实时Token计数
粘贴或输入文本以查看所选AI模型的实时Token计数
加载中......
关于AI模型Token计数您需要了解的一切。
Token是语言模型处理的文本片段。它可以是一个词、词的一部分或标点符号。例如,'tokenization'可能被分割为'token'和'ization'。不同模型使用不同的分词方案,因此计数会有所不同。
对于OpenAI和Claude模型,我们使用其官方分词器提供精确计数。对于Llama、Gemini和Mistral,我们根据已知的分词模式提供估算值。
我们支持GPT-4、GPT-4o、GPT-4-turbo、GPT-3.5-turbo(OpenAI)、Claude 3 Opus/Sonnet/Haiku、Claude 3.5(Anthropic)、Llama 2/3(Meta)、Gemini Pro/1.5/2.0(Google)和Mistral Large/Medium/Small。
绝对安全。所有分词都在您的浏览器中使用JavaScript本地进行。您的文本永远不会发送到任何服务器 - 它保留在您的设备上。我们不收集、存储或传输您的数据。
可以!从浏览器安装为渐进式Web应用(PWA),即使没有网络连接也能计算Token。
您可以上传任何文本文件:.txt、.md、.json、.xml、.csv、.log、.html、.css、.js、.py等。工具读取原始文本内容进行分词。
上下文窗口是模型在单个请求中可处理的最大Token数(输入+输出)。例如,GPT-4有8K上下文窗口,而GPT-4-turbo有128K。我们的工具显示您的文本使用了多少窗口容量。
我们使用Anthropic官方JavaScript分词器(@anthropic-ai/tokenizer)进行精确的Claude Token计数。这为所有Claude 3和3.5模型提供精确计数。
此工具可在所有现代浏览器中运行,包括Chrome、Firefox、Safari和Edge。它针对桌面使用进行了优化,但也可在移动设备上运行。
我们欢迎您的反馈!您可以通过我们的GitHub仓库提交问题或功能请求。我们根据用户反馈不断改进。