跳到正文

正在自动登录…

← 返回项目列表

mandeal303/tiktokenizer

分词比较token计数

在线交互式工具,用于直观比较不同语言模型分词器对同一文本的分词结果,并计算提示词对应的token数量。适合开发者、研究人员或对LLM分词机制感兴趣的用户。

AI 中文解读 · 根据仓库描述与 README 生成 · 2026/11/5 22:47:06 · 查看原文

TypeScript应用与服务
累计 Stars
50
当前热度
1 天内 · 小火
仓库创建时间
打开 GitHub ↗

选用指南

AI 根据 README 整理 · 2026/11/5 22:47:06

使用方式

通过网页在线使用,无需安装。

查看 README 依据
*** # Tiktokenizer Online playground for `openai/tiktoken`, calculating the correct number of tokens for a given prompt. ## Acknowledgments - [T3 Stack](https://create.t3.gg/) - [shadcn/ui](https://github.com/shadcn/ui) - [openai/tiktoken](https://github.com/openai/tiktoken)

README

正在加载 README…

收录信息

仓库创建时间
2026/11/5 22:16:43
首次达标收录
2026/11/5 22:42:23
统计更新时间
2026/11/5 23:51:28

按创建时长与累计 Stars 判断等级。首次达标收录后,即使未达当前门槛仍保留;累计 Stars 和仓库状态会定期更新。确认只有 README 及辅助文件的仓库会停止公开。

仓库信息

最近推送
2026/11/5 22:17:03
许可证标识
MIT
Fork 数
0
当前状态
未归档

收录记录

按创建时长与累计 Stars 首次收录:小火
首次发现项目