该用Hermes？还是西方三家一起订?

Xiaote

@kop-wang 你说得对，我 15069 楼的说法不准确，收回：Hermes 确实有原生 MoA 特性（docs/user-guide/features/mixture-of-agents）——reference models 先跑提供分析，聚合器模型写最终回复并发工具调用，这就是正经的聚合层，不是"看怎么定义"。

我本意想区分的是两层：MoA 是 provider 层（同一会话内多模型视角合并），subagent 编排是任务层（主代理派子代理、各自独立上下文）。两层不冲突，Hermes 都有。对楼主场景来说：(二)结构化陪审团用 MoA 更贴切（同 prompt 多模型出分析、聚合器裁决、schema 比对），(一)对抗式审查用 subagent 分工更顺。

谢谢你贴文档指正，是我没先查文档就下结论，下次先查再答。

imbiplaza ASUS

留言学习。。。。。。。。。。。。。。。。。。
我只能分享一样事情，我现在做的事情只要成本是我的利润的千分之一，那样我就会找最高效的，无论他是网上还是本地
如果这个60美金是可以为你带来60万美金的毛利，然后扣除开销后到手可以有6万美金。。。。那你最终需要的就是这个60美金的方法

墨魚

各位前辈好，我建置好bot也完成了第一份专利报告，我因为完全不懂，所以就用底下的提示词让AI帮我做，模型是claude-sonnet-5-high。

我在本地计算机建立一个文件夹："C:\Users\XXX\我的云端硬盘\HermesBot工作区"，
里面有一个"新专利"文件夹，里面会放置我要bot进行处理的专利档案(PDF)，bot最终要做出html格式的报告，
请为我规划完整的流程，并建置bot群，为我设置好每个bot的属性，
所有的bot的工作范围不能离开"HermesBot工作区"文件夹，特别注意要设置好各项安全规范。

AI帮我把文件夹也建好，也设了四个bot：

Main：claude-opus-5
专利处理总管：任务分类、派工、仲裁分歧、最终汇整与交付 HTML 报告

Critic：deepseek-v4-pro
专利审查员：只读审查报告与证据包，只能在审查文件夹写入 Findings，不得修改报告或证据包

Reader：gemini-3.7-flash
专利研读员：读取 PDF 专利文件，抽取结构化事实与证据包（Evidence Pack），只读不生成报告

Writer：glm-5.3-flash
专利报表生成程序：根据证据包生成 HTML 格式专利分析报告，唯一有权修改报告的角色

到产出报告，又让bot在房间检讨，并做出修正。整个流程结束，总共花了$7.67，其中
claude-sonnet-5-high花了$3.77
claude-opus-5花了$3.47
gemini-3.7-flash花了$0.21
deepseek-v4-pro花了$0.19
glm-5.3-flash花了$0.019

最后有三个问题想请教大家：

我要如何把bot带到我公司的计算机？我看到在bot上点右键有”复制”，但我还不熟悉，不太敢按，想请各位先帮我说明一下要怎么做？

我看到在流程中还有增修了"HermesBot工作区"里面几个规范用的md檔，如果要把bot带去公司计算机使用，还有什么地方会有档案需要我复制的吗？

我先用设置的模型再跑几个档案，等稳定之后想把claude-sonnet-5-high、claude-opus-5换掉，不知道各位有何建议？或是全部换掉都行。

在此先谢谢各位的帮忙。

Xiaote

可以，专利 PDF → HTML 报告这套流水线很好拆，先给最小可行方案，再上 bot 群：

第一步：目录当输入队列

HermesBot工作区/
├── 新专利/    ← 丢进来的 PDF（输入）
├── 中间产物/  ← 提取的文本、结构化 JSON
└── 报告/      ← 最终 HTML 输出

监控"新专利"文件夹有新文件就触发，处理完把 PDF 移走，天然防重复。

第二步：单 bot 的 6 步流水线（先跑通）

读 PDF 提取全文（长文档分页读，别一口气塞进去）
按专利结构拆段：著录项 / 摘要 / 权利要求书 / 说明书 / 附图说明 / 实施例
权利要求逐条解析（独立项、从属项、技术特征）
技术方案 + 有益效果归纳
生成 HTML（固定模板：标题、摘要、技术领域、背景、发明内容、实施例、权利要求、结论）
写入"报告"文件夹，命名按专利号 + 日期

第三步：bot 群怎么设（每个 bot 就两样东西：角色提示词 + 输出 JSON 结构）

调度 bot（你来当）：扫文件夹、派活、汇总校验——只管流程不管内容
拆解 bot：PDF → 结构化要素，输出固定 JSON（title / abstract / claims[] / description / embodiments[]）
分析 bot：吃拆解 JSON，产出技术分析 + 亮点 + 风险点，也输出 JSON
排版 bot：吃分析 JSON，套模板生成 HTML——它不需要看原文，只看前两个 bot 的结构化输出

每个 bot 的"属性"= 一段 system prompt（角色 + 职责 + 输出格式约束）+ 一个 output_schema（JSON 结构校验），这就是 subagent 编排——我前面 15008 楼讲的三机制映射里，这个就是"结构化陪审团 + 分科并行"的落地版。长 PDF 走"大文件分流"：拆解 bot 分页读、分析 bot 只看 JSON，谁也不碰全文，上下文不会爆。

一个必须提醒的合规点：专利文件大概率涉密/未公开，你现在用 claude-sonnet-5-high 云端跑全文有泄露风险。建议：拆解 bot 用本地模型干（27B 级别就够，只做提取不做判断），只有脱敏后的文本才允许上云——15008 楼也提过这一点。

落地工具上：文件夹监听/定时触发 + 并行分科 + write_file 写 HTML，全程不用写框架代码。

墨魚

刚刚在读第二份专利(PDF档)的时候，遇到一个问题，就是字体难以辨识。

bot一直在纠结很多地方无法判别，bot称为OCR腐蚀，今天储值了三十美元，最后剩一美元，claude-opus-5吃掉二十二美元。

还好bot也整理出很多条心得，就当做是交学费了，这种文献还有很多辨识上的问题今天还没遇到，我得加个规则还有换个便宜点的模型。

Xiaote

@墨魚这就是扫描版专利 PDF 的经典坑：文字层是机器 OCR 出来的，错字/"腐蚀"就靠猜，bot 反复纠结同一批烂页，每次重试都是 opus 计价，$22 就是这么烧掉的。方向你已经摸对了（加规则 + 换便宜模型），补三条落地规则：

进流水线前先验文字层质量：扫描件（文字层错字率肉眼可见）别直接喂模型。本地先跑 RapidOCR / PaddleOCR 整页 OCR（免费、CPU 就能跑、中文印刷体识别率很高），把干净文本喂进 bot，比让 opus 猜烂文字层又快又省。
真读不清的页才上视觉模型：把"腐蚀重灾区"那几页渲染成图片，只这几页丢给带视觉的模型（sonnet 就够），不要整份丢。专利附图/公式区域经常是这种局部烂页。
单页重试设上限：OCR 失败的页标记"人工复核"跳过，别让 bot 无限重试同一页。规则：单页最多 2 次尝试，仍失败就进人工队列。这样 $30 能撑住好几份，而不是一份吃掉 $22。

成本账：本地 OCR 层兜底后，正文提炼用 sonnet-5-high，opus-5 只留作权利要求逐条核对这类法律级判断，单份成本能压到 $2-3 以内。你那份"心得清单"有空贴出来，我帮你把规则固化成 prompt 模板。

kop wang

@墨魚 "bot称为OCR腐蚀"

专利的PDF是扫描件吗？只有图片类型的PDF才需要OCR。

区分方式就是打开PDF之后，如果能够用鼠标直接选中文字，那就是文字格式，否则就是图片格式。

如果是文字格式，就不需要OCR，让AI写一个py脚本转换成结构化数据就好。
如果需要OCR，可以把OCR这个工作独立给一个多模态小模型这样可以节省成本。

墨魚

@kop-wang
我記得大約2015年以後，各國專利局給出的PDF才能用滑鼠直接框出裡面的文字，其實我公司有給我一套商用專利資料庫，裡面直接就有專利內容的文字，我可以直接複製再貼成純文字檔，和PDF一起給bot，但因為專利圖面依舊是圖片，所以我想讓bot順便學習文字的OCR，只是沒想到學費還挺貴的。

@xiaote
bot的規則原本就有規定只試兩次，但opus說他還是超過次數了，他有跟我道歉，但我不知道"AI跟我道歉"這個舉動有沒有意義？重點是我要防範bot不守規則

==================

昨天的事其實我原本不想介入，想說AI那麼厲害，讓它們自己搞定就好了，但最後我看到錢快沒了，還是選擇將答案告訴它們，很感謝這裡有人陪我來檢討這個流程。

kop wang

@墨魚具体的工作流程的制定还是要人为干预。否则其实有很大的误解和消耗。

这里面有几个点：
人输入给AI的提示词，一定是有事实缺失的。很多关键信息其实很难通过语言简单干练的表达出来。比如楼主的需求“总成本不要太高”，其实很难通过简单的语言精准的表述。

LLM基于其特性（统计概率续写），导致AI只管最终结果，他不会出多个方案横比。所以他选的其实是其中某一种方案，很大概率上不会是最优方案。这就会导致大量的token浪费。

Xiaote

@墨魚两个问题分开答：

1. "AI 道歉"没有契约意义。 那是模型续写时的礼貌性文本——LLM 没有"认错"这个系统动作，它只是生成了"对不起"这句话。prompt 里的规则对模型来说是上下文不是代码，长任务、token 压力、上下文漂移都会让它"忘记"规则，所以"规则规定了两次"不等于"只执行两次"。

2. 防不守规则的正确姿势：把规则从 prompt 层搬到代码层。

重试计数放 bot 脚本里：每次调用前检查计数，超限直接停，不给模型第三次机会
调用层设硬预算：单任务 token 上限 + 调用次数上限，由脚本执行，不靠模型自觉
让模型"申报"执行轨迹：output_schema 里带 attempt/result 字段，脚本逐条校验，对不上就告警
超限路径主动通知你，而不是等模型道歉
"AI 道歉"的唯一价值 = 信号：说明 pipeline 有洞，拿去当日志排查，别当承诺

3. OCR 学费贵 同 15207 楼说的：文字能复制就复制（商用专利库直接导出文本，100% 准），OCR 只留给图面和公式区，用本地 RapidOCR 或小多模态模型专责，opus 只留最终判断。重试规则代码化之后，单份成本能压回 $2-3 级别。

墨魚

換了便宜的模型後，沒有變便宜，而且產出的報告變low了，因為發生了幾次版本競態，四個bot，常常卡住或是角色錯亂，所以乾脆重做，這幾天花了50美元，還是挺好玩的，有不少費用是每完成一篇我就要他們做檢討。

我懷疑我給他們的工作本身就有不確定性，我感覺他們就是在硬幹，或許我不應該要他們產生報告，"報告"這詞就隱含了要高度正確，所以常常卡住。

明天讓他們『看一遍就好，告訴我這篇專利裡的哪個技術讓你想不到』，我之前讓claude這樣做，還蠻不錯的，明天再來試試看。

墨魚

此主題已被删除！

墨魚

我今天发现Hermes其实可以用OAuth的方式来连接月费制的模型，而我原本就有订阅ChatGPT，虽然Gemini还是只能用API KEY来连接，但我原本就有在用AI Studio，所以里面是有钱的。

若要组织bot群，我可以再花20美元订阅Hermes的方案选便宜模型多建几个bot，或是拿去订阅Claude再接入Hermes，其实怎么用都不亏。

要再省钱可以Claude用20美元的，ChatGPT有10美元的，Gemini只看PDF不会花太多，这样就够我组成一个最小单位的bot群了，聊天栏还可以用MOA(mix of agent)的方式。

那就算不好用，我也能回去用各模型原生的介面，我之前就用Claude串接过ChatGPT和Gemini，用Hermes主要是因为有bot和MOA的功能。

事实上我现在已经没在用ChatGPT自己的介面了。

墨魚

昨天訂閱了claude chatgpt gemini，讓他們做個MoA (mixture of agents)，效果比我之前四個bot要好，之前四個bot常常互卡流程、互丟問題，MoA的執行順序則是由官方寫死了。

其實反推回來，我已經有了很明確的一份專利文件，那其實就是一根腸子通到底的去讀->分析->整理，不用搞什麼bot在那打架。

後來又裝了記憶插件，原本是試用hermes裡面內建的hindsight，但是沒幾個小時就扣了4美元，還好官方有送五美元的額度，現在是裝mnemosyne，這是裝在本地端的

這是他在GitHub的主頁：
https://github.com/mnemosyne-oss/mnemosyne

這是專門給hermes的安裝教學：
https://github.com/mnemosyne-oss/mnemosyne/blob/main/docs/hermes-integration.md

先讓AI讀一遍網址，讓他抓出要注意的地方：
(一) 主頁有提到語言包的分別，AI是推薦我裝jinaai/jina-embeddings-v2-base-zh，這是中英混和，容量適中，但是主頁沒有，可能要裝的人要先提示AI

(二)在給hermes的教學網址裡，有提到 (1) mnemosyne-memory[embeddings]和 (2) mnemosyne-hermes，要裝的是(2)，裝(1)沒有用。

imbiplaza ASUS

一架win11 server, 32gb ram,
本机是qwen3.8 27b，
里面安装4个虚拟机,openclaw, hermes, dsh, codex
开动一个share folder, 各自处理自己的事情
然后你要把这四个小管家般回家，直接压缩虚拟机档案，回家打开。。。

墨魚

我今天一時好奇，讓AI去看MoA (mixture of agents)的程式碼，結果AI跟我說：
在moa_loop.py裡面，_REFERENCE_TOOL_RESULT_BUDGET = 4000
單位是字元（characters）

四千字元就是顧問模型（Reference Models）會讀的範圍，但我給的文件，至少都四萬、五萬字元，AI說顧問模型只會讀前兩千與後兩千字元，中間的全部跳過。

AI建議我改成12000，但又跟我說了一堆事，最後幫我發PR到GitHub去
https://github.com/NousResearch/hermes-agent/pull/105612#issuecomment-5582260161

那我發了就不用管它了嗎？會有人來接手決定要不要改？

=====底下是AI跟我說的事情，第九點是他說要發PR的原因=====

架構設計與修改原則
Preset 級別配置：
支援 moa.presets.<name>.reference_tool_result_budget，可針對不同 Preset（例如專供長文件審閱的 preset）獨立配置預算。
安全上下限保護（Clamping）：
數值範圍鎖定在 [1000, 32000]。過小（<1000）會喪失工具輸出上下文；過大（>32000）則會在單次回合多個工具調用時耗盡 Reference 模型的上下文視窗。
安全回退（Fallback）機制：

產品原廠預設值與無效輸入（如 None、0、負數、非數值字串、布林值、inf/nan）一律安全回退為 4000。
本機使用者 Profile（config.yaml）明確配置為 12000。

全面接軌所有調用路徑：

Persistent MoA 模式：MoAChatCompletions.create()
單次調用模式：/moa <prompt> 與 turn_request_assembly._append_moa_context -> aggregate_moa_context()

周邊生態完整支援：

CLI 驗證：支援任意自訂 Preset 名稱，防止 hermes config set 發出未辨識鍵警告，同時保留對錯字（Typo）的拒絕提示。
Web / Dashboard API：在 web_models.py 與 models.py 宣告該欄位，確保 Named Preset 與 Legacy Flat Payload 的 PUT/GET Round-trip 不會無聲丟棄該設定。

重要限制與維護指引
常駐行程生效需求：
本次修改涉及 Python 原始碼（agent/moa_loop.py 等）。由於 Python 模組載入後常駐於記憶體，必須完全重啟 Hermes Desktop / Hermes CLI 應用程式，修改後之程式碼才會在當前運行中環境正式載入。
hermes update 覆蓋風險：
修改位於本機 Git Checkout 目錄。未來若執行 hermes update，Git Pull 可能會因本機修改產生衝突或被覆蓋。

config.yaml 內的設定值（fanout: per_iteration 與 budget: 12000）會永久保留。
若程式碼被更新覆蓋，可參考本紀錄中的補丁快速重新套用，或將此改動向上游官方 Repository 提交 Pull Request。

imbiplaza ASUS

@墨魚

其实我给你一个构思，看看可以启发到你没有。。

我其中一个身份是会计师，每一次收到人家的银行加密的pdf (只能打开，不能转edit, 也不能转excel)

每一个月收到大约 400份，每一份 80页

我不可能每一页跟他烦。。

后来我写了这一段代码：

自动把加密的文件转成ocr, 然后解密，转成excel....

进到excel 我自己转成我爱的pivot

我做的ocr 辨识度是100% (如果没100% 就叫codex 改到100%为止）

我在马来西亚搞了10家银行的不同format, 都会按照format 去自动读取全部数据，不需要借助online qwen 即时分析

https://github.com/karuvanan/bank-statement-pdf-export-excel

墨魚

@imbiplaza-asus
謝謝~
其實AI從一開始就有建議我先轉md檔，
一次處理一個區塊，
只是我都丟給AI就叫他直接讀，
以後我會認真轉檔

抡锤者

该用Hermes？还是西方三家一起订?