正在自动登录…
mandeal303/ tiktokenizer
在线交互式工具,用于直观比较不同语言模型分词器对同一文本的分词结果,并计算提示词对应的token数量。适合开发者、研究人员或对LLM分词机制感兴趣的用户。
AI 中文解读 · 根据仓库描述与 README 生成 · 2026/11/5 22:47:06 · 查看原文
- 累计 Stars
- 50
- 当前热度
- 1 天内 · 小火
- 仓库创建时间
选用指南
AI 根据 README 整理 · 2026/11/5 22:47:06
- 使用方式
通过网页在线使用,无需安装。
查看 README 依据
*** # Tiktokenizer Online playground for `openai/tiktoken`, calculating the correct number of tokens for a given prompt. ## Acknowledgments - [T3 Stack](https://create.t3.gg/) - [shadcn/ui](https://github.com/shadcn/ui) - [openai/tiktoken](https://github.com/openai/tiktoken)
README
正在加载 README…
收录信息
- 仓库创建时间
- 2026/11/5 22:16:43
- 首次达标收录
- 2026/11/5 22:42:23
- 统计更新时间
- 2026/11/5 23:51:28
按创建时长与累计 Stars 判断等级。首次达标收录后,即使未达当前门槛仍保留;累计 Stars 和仓库状态会定期更新。确认只有 README 及辅助文件的仓库会停止公开。
仓库信息
- 最近推送
- 2026/11/5 22:17:03
- 许可证标识
- MIT
- Fork 数
- 0
- 当前状态
- 未归档
收录记录
按创建时长与累计 Stars 首次收录:小火
首次发现项目