拐点临近 - 基础设施够用了

[terry]

我哥就干聊啊.....研究好了没，我马上准备去北京投奔你。保安，保洁，保姆都行。

[Tony Wang]

@terry

理论与实践相结合, 实战案例:

五马分工

[kop wang]

可以试试strata，RAM够大的话，体验要比sglang+27B-nvfp4要好。
prefill更稳，decode更快，智力更强，多会话缓存能力还更好。

[rock shi]

同感！今天刚刚跟朋友在聊，strata的出现真的觉得基础设施基本不再是问题。问题是如何落地了

[terry]

@kop-wang 我哥的装备非常适合跑strata，但我觉得多并发还是SGLang+ 27B更好。或者最好的状态是Hermes+DeepSeek V4.1 Flash作为助手，指挥DSH+Qwen27B干活，你们可以尝试下。Strata+Qwen Flash带来的收益比起付出的硬件代价，不值得。

[Tony Wang]

我想等 strata NVFP4 版本成熟之后, 再试一下.

[kop wang]

@terry 确实，适合自己生产场景的就是最好的。

我是图、视频创作就用线上（也是废话，没显存同时做），其他目前都主攻strata自部署。省钱的同时也顺便做测试。

[kos or]

@terry said:

或者最好的状态是Hermes+DeepSeek V4.1 Flash作为助手，指挥DSH+Qwen27B干活

請問錘大，要怎麼讓Hermes 指揮DSH網頁版或App版呢 ?
我都沒設置成功 目前只能讓 Hermes 指揮Codex CLI 而已

[fcme]

@kop-wang
Next flash确实体感是要强一点，但是速度来讲还是27b快。另外，next复莱史还有一个很大优点，我之前都没注意到，这玩儿跑起来显卡负载比较低，只有100多瓦。然后比较省电。

[Tony Wang]

@kos-or

我有个经验, 写个小黑板.

在文件系统, 或者email, 或者你的vps上, 建立一个 多Agent共用的共享区域, 他们只能写自己的文件, 但是可以看别人的, 就互相可以留言, 每几分钟查一下. 类似于一个MCP的网关.

用CLI当然可以, 但是我总觉得心理不踏实, 用MCP网关又觉得太重.

[fcme]

@kos-or
让Hermes指挥dsh感觉有一种脱屁子放库的感觉，哈哈。

因为dsh本身就是一个更优秀的框架，Hermes如果搭配本地模型跑的话还是太慢了，而且Hermes呃它最大的优点用下来其实也是最大的缺点，它那个各种技能啊，各种文件野蛮生长，你要不维护的话，就很容易跑偏，而且这个东西积累的多了以后，你都不知道你的赫米斯到底是个什么状态。就是维护赫米斯的成本其实是有点高的。我指的是时间成本。

[kop wang]

@fcme “而且这个东西积累的多了以后，你都不知道你的赫米斯到底是个什么状态。就是维护赫米斯的成本其实是有点高的。我指的是时间成本。”

确实，hermes目前的问题其实有点尴尬。要自学习、自进化，就得增加不确定性。
但是如果加强确定性，自身的核心卖点又要被削弱。

有点按下葫芦起了瓢的感觉。

[fcme]

@kop-wang
所以这个东西呢新手小白一用起来感觉哇，这也行，那也行，好美，但是用时间长了就感觉嗯有点怪怪的。

用dsh实际上也可以达到类似的效果，而且更明确就是你需要让他记住什么或者说创建什么技能的时候告诉他就行了。

其实我觉得两个功能上来讲没有太大的区别，但是dsh整体上用起来确实是快，体感就是会好很多，不像赫米斯那么的重，那么黏糊。

[kos or]

@Tony-Wang said:

有个 多Agent共用的共享区域, 他们只能写自己的文件, 但是可以看别人的, 就互相可以留言, 每几分钟查一下. 类似于一个MCP的网关.

Hermes 內部有一個Kanban工具類似小黑板和A2A內部溝通工具，我最近整合了Kanban + A2A 跨Hermes Agents協作系統(agent 操作規定)，讓兩個主Hermes Agent可以協作完成同一個任務; 不過還沒跑過測試 不知道效益如何 @@

應該是可以加入 Deepseek Harness到Kanban 小黑板內的，負責任務領取和回報

[Tony Wang]

@fcme @kop-wang

这是个两难. 不过Hermes的好处就是, 用久了, 都不用废话, 比如, 我说: "新扫描件, 归档"

它会:
1, 去我的Documents, Downloads, Desktop 中去找最新的扫描件
2, ocr , 偶尔还会调用vision
3, 根据内容和我的规则改名
4, 归档到我的obsidian相应的位置, 或者我专门的文件系统中
5, 在我的obsidian日记中记录一笔
6, 清理掉它自己的过程文件, 比如有时候ocr它觉得不通顺的时候, 它会调用27B的vision截图再看.
7, 清理掉我的原文件

这一系列, 就是我说 "新扫描件, 归档" , 之后发生的一切. 基本正确率100%

[Tony Wang]

@kos-or

kanban是hermes内部的, 而且kanban基本上不用我们维护, 它主要是排布一个任务的routing的. 当然我们可以手动去排布它.

你如果让其他Agent去动Hermes的看板的话, 我感觉还是有点儿问题.

[kos or]

@fcme said:

让Hermes指挥dsh感觉有一种脱屁子放库的感觉

主要是因為使用者介面的關係，用久了習慣了UI和Hermes內部基本系統，
而且手機上用 Telegram操控Hermes 方便 當Agent入口用

DSH可能有手機版，我還沒找過 @@

[kop wang]

@Tony-Wang 这个相当于就是再繁复且不断积累的信息总量和误差，与模型更高的智力与统计学能力之间的此消彼长。

hermes目前的这个状态也算是这个时代独有的行为艺术了。

[Tony Wang]

我最近使用 muse.ai , 感觉也非常不错.
调教得非常好, 简单易用. tool use 很惊艳, 帮我填写了不少在线表格了, 尤其是英文的.

Hermes当然也能做, 但是费劲得多.

[fcme]

@kos-or
设置个反代理，在网页使用就可以。其实dsh也可以接Telegram的