Simon Willison·· 7 天前AI 评分26
ttok 0.4:基于 tiktoken 的 token 计数 CLI 工具
ttok 0.4
AI 导读
Simon Willison 的 CLI 工具 ttok 发布 0.4 版本,修复了 Click 警告并更新了 CI。新版本新增 `--list-models` 命令以列出可用模型,该工具基于 OpenAI 开源的 tiktoken 库构建。用户可通过 `uvx ttok` 直接运行,如 `cat file.txt | uvx ttok` 来统计文本的 token 数。
正文 · AI 翻译
ttok 是我的 token 计数 CLI 工具,使用 OpenAI 的开源 tiktoken 库。
它已经有几年没更新了,但我终于修复了一个 Click 警告,更新了 CI,并添加了一个 --list-models 命令来列出可用模型。
它可以与 uvx 配合使用,因此你可以像这样计算任何内容的 token 数:
cat file.txt | uvx ttok
来源:Simon Willison · simonwillison.net