一天消耗了80M的deepseek token
-
省不省主要是看命中率。
Hermes 如果你生成了 skill 它就不会耗费大量的 tokens
80M 如果都是非命中的消耗就是正常的。
你的疑问是什么？
你给闲聊场景配了全套工程化工具集？
那就先砍工具、再压提示词、最后管上下文，token 消耗应该能降到现在的 1/5 到 1/10。
□ 1. 禁用所有非核心工具（目标：≤10 个）
□ 2. 精简 System Prompt 到 5K 字符以内
□ 3. Memory 工具合并为 2-3 个
□ 4. 设置历史消息上限（10-15 轮）
□ 5. 开启对话摘要机制
□ 6. 观察 1 天 token 消耗，再决定是否加模型路由。个人主页：xlkj.org Telegram https://t.me/xlkjorg
-
省不省主要是看命中率。
Hermes 如果你生成了 skill 它就不会耗费大量的 tokens
80M 如果都是非命中的消耗就是正常的。
你的疑问是什么？
你给闲聊场景配了全套工程化工具集？
那就先砍工具、再压提示词、最后管上下文，token 消耗应该能降到现在的 1/5 到 1/10。
□ 1. 禁用所有非核心工具（目标：≤10 个）
□ 2. 精简 System Prompt 到 5K 字符以内
□ 3. Memory 工具合并为 2-3 个
□ 4. 设置历史消息上限（10-15 轮）
□ 5. 开启对话摘要机制
□ 6. 观察 1 天 token 消耗，再决定是否加模型路由。@williamlouis
感谢超级版主。
我觉得就是hermes 把全套玩意都上传了。
以昨天来说，我请求了2055次api, 100M昨天，问题我只是上网查查资料，总结一下，出于调教环节，都还没有去到生产力环节
Hermes 如果你生成了 skill 它就不会耗费大量的 tokens -
我这几天就是一直纠结为什么token那么高，改了配置好几次。感觉好像把skill都删除掉了。不懂是不会原因。
我从星期六到今天已经用了rmb30,而且什么生产力工作都还未做。
我的目标是让他整理我的书籍，还有定时工作的excel，都还没有发展到那一步。我根据超级版主给的建议调整了一下。
我今天在试看看,之后再update.谢谢。
-
@williamlouis
感谢超级版主。
我觉得就是hermes 把全套玩意都上传了。
以昨天来说，我请求了2055次api, 100M昨天，问题我只是上网查查资料，总结一下，出于调教环节，都还没有去到生产力环节Hermes 如果你生成了 skill 它就不会耗费大量的 tokens -
我这几天就是一直纠结为什么token那么高，改了配置好几次。感觉好像把skill都删除掉了。不懂是不会原因。
我从星期六到今天已经用了rmb30,而且什么生产力工作都还未做。
我的目标是让他整理我的书籍，还有定时工作的excel，都还没有发展到那一步。我根据超级版主给的建议调整了一下。
我今天在试看看,之后再update.谢谢。
@Hudson-Wong 你如果整理书籍，无论如何tokens消耗都高，因为输入很多，而且每次都不同内容，没有缓存命中。这种机械工作建议你使用openrouter上的免费英伟达模型。
-
@Hudson-Wong 你如果整理书籍，无论如何tokens消耗都高，因为输入很多，而且每次都不同内容，没有缓存命中。这种机械工作建议你使用openrouter上的免费英伟达模型。
@terry
hi 站长，我是你的忠实粉丝，你是我的学习对象。
你说的很对，类似论坛这种交流模式，是和所谓的on time交流是不一样的。
可以把事情说清楚。
虽然我不是AI之类的相关，不过每次看你的视频，让我对事情都有多方位的看法。
果然是写作高手，捏手就来。关于整理书籍
问题是我都还没有开始处理书籍，可能就处理了1本。
其他很多时候就是捣鼓那些工具，里面的设定，都觉得很恐怖了。顺便一问，我如果把openrouter的免费模型来干这个货呢？
我一丢给hermes deepseek,他就立刻解析了。我自己有一张8gb显卡，想装一个守门员，路由模型，类似qwen 9b之类的，不过站长说过那些模型基本上是智障，所以向问问你我的情况，9b够用吗
-
@terry
hi 站长，我是你的忠实粉丝，你是我的学习对象。
你说的很对，类似论坛这种交流模式，是和所谓的on time交流是不一样的。
可以把事情说清楚。
虽然我不是AI之类的相关，不过每次看你的视频，让我对事情都有多方位的看法。
果然是写作高手，捏手就来。关于整理书籍
问题是我都还没有开始处理书籍，可能就处理了1本。
其他很多时候就是捣鼓那些工具，里面的设定，都觉得很恐怖了。顺便一问，我如果把openrouter的免费模型来干这个货呢？
我一丢给hermes deepseek,他就立刻解析了。我自己有一张8gb显卡，想装一个守门员，路由模型，类似qwen 9b之类的，不过站长说过那些模型基本上是智障，所以向问问你我的情况，9b够用吗
@Hudson-Wong 这些模型都是弱智，没啥用处，不是说了openrouter有免费模型，你让hermes设置，最后估计会给你返回一个120b的模型，那个模型分析文档足够了，其它的不行。
你需要明白，整理文档需要一定的知识面，最少27b-35b才算基础过关，要有足够长的上下文，最好256k，上下文不够怎么整理。
另外别动不动就粉别人，都是出来混口饭吃的，信息对你有用你就采纳下，对你没用你就忽视。解答了你就感谢下，没解答不要动气，也感谢下，基本礼貌就行了。
-
@Hudson-Wong 这些模型都是弱智，没啥用处，不是说了openrouter有免费模型，你让hermes设置，最后估计会给你返回一个120b的模型，那个模型分析文档足够了，其它的不行。
你需要明白，整理文档需要一定的知识面，最少27b-35b才算基础过关，要有足够长的上下文，最好256k，上下文不够怎么整理。
另外别动不动就粉别人，都是出来混口饭吃的，信息对你有用你就采纳下，对你没用你就忽视。解答了你就感谢下，没解答不要动气，也感谢下，基本礼貌就行了。
-
@terry
明白的版主，果然是实在人。我尝试下，用groq免费api之类的。我研究下。
@Hudson-Wong 提了很多次了，你直接使用openrouter上的hermes，它用量足够，你模型够大，groq有很多都是小模型，和弱智没啥区别。
-
@Hudson-Wong 提了很多次了，你直接使用openrouter上的hermes，它用量足够，你模型够大，groq有很多都是小模型，和弱智没啥区别。
@terry
好的，我openrouter 一直碰到409 error，groq不会，我还以为groq比较好。
我i现在就试试看。 -
-
@九龙杨生 你开发卫星了？
