唉，小白还是要来请教群里大神。我感觉我被DSH忽悠了。7900xtx本地模型起不舒服。
-
先说下我的情况，
硬件配置：i5 12600kf ，DDR4 16GX4 ,蓝宝石 7900XTX 涡轮版。
想着搭个本地的智能助手。目前成果：┌─ Hermes（大脑/调度）─────── Py3.14.8 · systemd hermes-gateway · 监听 0.0.0.0:8642
│ │
│ ├─ 主脑 → Ollama @127.0.0.1:11434/v1 qwen3.8-27b-iq4xs 100% GPU
│ ├─ 审计 → 同一个 Ollama qwen3-4b-cpu 100% CPU
│ └─ MCP → OpenViking(7工具) + vault-broker（各自 stdio 子进程）
│
└─ 嵌入/检索 ─ OpenViking → bge-m3（GPU，OpenViking 自己在调）
我装了dsh，长链任务全丢出去。
hermes主机，我安装的命令行版的 乌班图 24.04，
后面的，是远程让我另外一台电脑上的dsh（这个dsh后面简称1号），一点点搭起来的。
我让1号总结了群里的经验，他就给我搭了上面这套框架，知识库是我让他安排这个的。
今天搭完，测试了下吞吐量，才30 tok/s 左右，我说学学群里其他的框架，他说都不适合我。我都无语了。
难道，我这台电脑，只能这样了吗？
另外，审计小模型，还有接入微信企业版以后，发图片识别的模型，都没法让GPU 来弄，塞 cpu 里，感觉能力不够。 -
，
南 南亚阿东 删除了此主题
-
，
-
-
-
-
-
-
-
-
@南亚阿东 你看论坛里就现在很火的Strata；https://github.com/Niko1221/Strata
-
1, 让你的Agent (hermes 或者DSH), 自己去做个benchmark, 要求它生成报告, 包括性能, GPU, 带宽利用率, 有没有报错, MTP命中率等等.
2, 让你的Agent 总结你的报告, 你机器的配置, 大模型的启动参数等, 以及你的疑问, 生成一个 文件, 比如某个 .md .
2, 你把 .md 喂给一些免费的大模型, 比如 deepseek, chatGPT, gemini等, 让他们去分析, 要求它们同时上网核查官方文档, 社区等, 最后给出详细的分析结论和测试方案. 最好是生成一个在线的 .md 供你下载.
3, 你把这几个 .md, 喂给你的Agent, 要求它总结, 设计实验方案, 并且开干. 注意这时候要把 llm 切换到在线模型, 比如 deepseek等.
我感觉ChatGPT在这方面分析能力比较强, 免费版的 5.6 Sol就够用.
-
-
-
-
-
-
-
3-4并发, 不是3-4个长链并发. 大部分时候都是一个长链 + 多个短链.
我有两个应用场景:
1, 我有1个主Agent + 4个子Agent, 分别负责处理 运维, email及日程, obsidian和RAG, 以及文件系统维护. 一个主Agent, 往往需要再调用 1-2个子Agent 去干活.
2, 我经常会在一个长链任务正在跑的时候, 想起一件小事, 比如去截个图, 搜索个文件, 设定一个备忘之类的, 这些上下文都不长. 很快可以完成.
@Tony-Wang 用途和我差不多，目前主要是搜刮各种网上的知识，总结成知识库
-
-
-
