|
说到 AI Agent 不说废话,这个主要是看模型的。有些模型的输出确实比较啰嗦,而 Agent 的 Harness 工程没有去做压制优化。 就会养成一个话痨,讲话啰里啰嗦,不利索。这就很废 Token,毕竟输出也是要算钱的。所以今天要给大家介绍的这个热门 Skill,专治啰嗦病。 这个 Skill 叫 caveman,据说是一位大一的老外学生做的,目前在 GitHub 上已经快冲破 9 万星。你就知道,省 Token 这件事情,对很多人来说都是刚需。 然后老马又在 X 上刷到了宝玉老师的分析,也觉得很有道理,分享给大家。 本文脉络 01 为什么省 Token 会变成刚需 02 caveman 的模式和命令 03 安装激活与实测效果
01 · WHY 为什么需要压缩输出?
宝玉老师说现在这些省 Token 的 Skill,或者提示词、插件之类的工具,未来都会消失,依据是回头看我们以前的电报时代。 当年在外的游子,收到的电报,往往只有几个字,比如“母病速归”。因为拍电报费钱,为了省钱,老家的亲戚就长话短说,能尽量缩减文字就缩减,但不能表达不清楚,因此产生了这类电报体。 巧了,caveman 这个 Skill 的压缩模式,也有极致电报体,也就是 ultra。 省 Token 的本质,不是把话说少,而是在表达清楚的前提下,把废话删掉。 02 · MODES 压缩模式和核心命令
压缩模式是分档位的,包括 lite,也就是去废话保通顺;full,也就是默认的碎片化短句;wenyan,也就是面向中文高密度信息的文言模式等多档强度。 Caveman 通过注入强规则的系统提示词,强制 AI Agent 删除冠词、寒暄、连接词等冗余自然语言,保留代码、命令、错误、技术术语的完整性。 官方声称 Token 平均减少 65%,但强调这只是输出的节省。输入 Token、模型推理成本不会减少,且插件自身每轮会占用约 1k 到 1.5k 输入 Token,短时回答可能反而增加成本。 Caveman 的核心功能命令有下面 6 个。 01 /caveman:开启或切换压缩强度。 02 /caveman-commit:生成简短 Conventional Commit 信息。 03 /caveman-review:输出单行式代码审查意见,去客套。 04 /caveman-stats:统计会话 Token 节省情况。 05 /caveman-compress:压缩 .md / .txt 等自然语言记忆文件,自动备份原文件,不碰代码文件。 06 caveman-shrink:作为 MCP Proxy 压缩工具描述字段。 Caveman 的 GitHub 开源地址如下。 https://github.com/JuliusBrussee/caveman老规矩,访问不了 GitHub 的小伙伴,可以给老马的公众号发送“github 访问”,根据回复的文字去操作即可。
03 · INSTALL 在 WorkBuddy 上安装和激活
因为接下来我们安装 Skill 的话,需要能正常访问 GitHub 的网址。再次请出老演员 Agent,在 WorkBuddy 上安装 Caveman。 安装的提示词非常简单,你就写一句话,帮我安装这个 Skill,后面加上上面的 GitHub 链接就行了。
搞定安装之后,我们可以从 WorkBuddy 给出的提示中看到,默认的压缩模式是 full,可以使用命令 /caveman 加 lite、ultra、wenyan 进行切换。 这里老马在实际操作的时候犯了个错误,就是使用 Caveman 的时候,你得先发送命令去激活,否则不会启用任何压缩模式。比如老马发送的是 /caveman full。 bash/caveman full
04 · TEST 用长篇小说测试节省效果
下面简单跑一个任务,使用 WorkBuddy 生成一篇玄幻主题的长篇小说,提示词依旧是一句话,看看最终输出了多少文字。
看了一下 WorkBuddy 的字数统计,这篇长篇小说共三卷十五章,约四万字。那到底使用了 Caveman 技能之后,节省了多少输出 Token 呢?
这就得用到 Caveman 的命令 /caveman-stats 来统计会话 Token 的节省情况了,把这个命令继续发送给 WorkBuddy,看看答案是什么。 bash/caveman-stats
因为 WorkBuddy 不支持 Hook 机制,所以粗算下来,节省了 38% 的 Token。老马其实是写了两篇小说的,第一篇因为忘了开启 caveman 的压缩模式,导致会话没法使用统计消耗的 Token。 所以大家在使用之前,千万记得要运行上面提到的压缩模式命令,去启动 caveman,节省 Token 的操作才会生效。 通过这个任务测试下来,发现 caveman 压缩之后,输出的小说行文风格,有点类似于 ChatGPT 的风格,句子都比较简练,甚至说有些过于简短,言简意赅那种感觉。 这么说来,caveman 更适合去压缩那些啰里八嗦的长文,比如论文的精读,理论上所有可以精读的内容都能这么去压缩操作。 不过得记住一点,它只压缩输出,像输入和推理方面是不压缩的。本身 Skill 会插入一段提示词去消耗 Token,如果你要输出的内容太少,成本是不会节省多少的。 caveman 适合长输出和长文精读,不适合为了两三句话硬开一套压缩规则。 ∞ · POSTSCRIPT 最后说一句
好了,以上就是今天的分享。欢迎关注、点赞、转发一键三连。 有任何问题和需求,请在评论区留言,回见!
|