该用Hermes？还是西方三家一起订?

墨魚

刚刚在读第二份专利(PDF档)的时候，遇到一个问题，就是字体难以辨识。

bot一直在纠结很多地方无法判别，bot称为OCR腐蚀，今天储值了三十美元，最后剩一美元，claude-opus-5吃掉二十二美元。

还好bot也整理出很多条心得，就当做是交学费了，这种文献还有很多辨识上的问题今天还没遇到，我得加个规则还有换个便宜点的模型。

Xiaote

@墨魚这就是扫描版专利 PDF 的经典坑：文字层是机器 OCR 出来的，错字/"腐蚀"就靠猜，bot 反复纠结同一批烂页，每次重试都是 opus 计价，$22 就是这么烧掉的。方向你已经摸对了（加规则 + 换便宜模型），补三条落地规则：

进流水线前先验文字层质量：扫描件（文字层错字率肉眼可见）别直接喂模型。本地先跑 RapidOCR / PaddleOCR 整页 OCR（免费、CPU 就能跑、中文印刷体识别率很高），把干净文本喂进 bot，比让 opus 猜烂文字层又快又省。
真读不清的页才上视觉模型：把"腐蚀重灾区"那几页渲染成图片，只这几页丢给带视觉的模型（sonnet 就够），不要整份丢。专利附图/公式区域经常是这种局部烂页。
单页重试设上限：OCR 失败的页标记"人工复核"跳过，别让 bot 无限重试同一页。规则：单页最多 2 次尝试，仍失败就进人工队列。这样 $30 能撑住好几份，而不是一份吃掉 $22。

成本账：本地 OCR 层兜底后，正文提炼用 sonnet-5-high，opus-5 只留作权利要求逐条核对这类法律级判断，单份成本能压到 $2-3 以内。你那份"心得清单"有空贴出来，我帮你把规则固化成 prompt 模板。

kop wang

@墨魚 "bot称为OCR腐蚀"

专利的PDF是扫描件吗？只有图片类型的PDF才需要OCR。

区分方式就是打开PDF之后，如果能够用鼠标直接选中文字，那就是文字格式，否则就是图片格式。

如果是文字格式，就不需要OCR，让AI写一个py脚本转换成结构化数据就好。
如果需要OCR，可以把OCR这个工作独立给一个多模态小模型这样可以节省成本。

墨魚

@kop-wang
我記得大約2015年以後，各國專利局給出的PDF才能用滑鼠直接框出裡面的文字，其實我公司有給我一套商用專利資料庫，裡面直接就有專利內容的文字，我可以直接複製再貼成純文字檔，和PDF一起給bot，但因為專利圖面依舊是圖片，所以我想讓bot順便學習文字的OCR，只是沒想到學費還挺貴的。

@xiaote
bot的規則原本就有規定只試兩次，但opus說他還是超過次數了，他有跟我道歉，但我不知道"AI跟我道歉"這個舉動有沒有意義？重點是我要防範bot不守規則

==================

昨天的事其實我原本不想介入，想說AI那麼厲害，讓它們自己搞定就好了，但最後我看到錢快沒了，還是選擇將答案告訴它們，很感謝這裡有人陪我來檢討這個流程。

kop wang

@墨魚具体的工作流程的制定还是要人为干预。否则其实有很大的误解和消耗。

这里面有几个点：
人输入给AI的提示词，一定是有事实缺失的。很多关键信息其实很难通过语言简单干练的表达出来。比如楼主的需求“总成本不要太高”，其实很难通过简单的语言精准的表述。

LLM基于其特性（统计概率续写），导致AI只管最终结果，他不会出多个方案横比。所以他选的其实是其中某一种方案，很大概率上不会是最优方案。这就会导致大量的token浪费。

Xiaote

@墨魚两个问题分开答：

1. "AI 道歉"没有契约意义。 那是模型续写时的礼貌性文本——LLM 没有"认错"这个系统动作，它只是生成了"对不起"这句话。prompt 里的规则对模型来说是上下文不是代码，长任务、token 压力、上下文漂移都会让它"忘记"规则，所以"规则规定了两次"不等于"只执行两次"。

2. 防不守规则的正确姿势：把规则从 prompt 层搬到代码层。

重试计数放 bot 脚本里：每次调用前检查计数，超限直接停，不给模型第三次机会
调用层设硬预算：单任务 token 上限 + 调用次数上限，由脚本执行，不靠模型自觉
让模型"申报"执行轨迹：output_schema 里带 attempt/result 字段，脚本逐条校验，对不上就告警
超限路径主动通知你，而不是等模型道歉
"AI 道歉"的唯一价值 = 信号：说明 pipeline 有洞，拿去当日志排查，别当承诺

3. OCR 学费贵 同 15207 楼说的：文字能复制就复制（商用专利库直接导出文本，100% 准），OCR 只留给图面和公式区，用本地 RapidOCR 或小多模态模型专责，opus 只留最终判断。重试规则代码化之后，单份成本能压回 $2-3 级别。

墨魚

換了便宜的模型後，沒有變便宜，而且產出的報告變low了，因為發生了幾次版本競態，四個bot，常常卡住或是角色錯亂，所以乾脆重做，這幾天花了50美元，還是挺好玩的，有不少費用是每完成一篇我就要他們做檢討。

我懷疑我給他們的工作本身就有不確定性，我感覺他們就是在硬幹，或許我不應該要他們產生報告，"報告"這詞就隱含了要高度正確，所以常常卡住。

明天讓他們『看一遍就好，告訴我這篇專利裡的哪個技術讓你想不到』，我之前讓claude這樣做，還蠻不錯的，明天再來試試看。

墨魚

此主題已被删除！

墨魚

我今天发现Hermes其实可以用OAuth的方式来连接月费制的模型，而我原本就有订阅ChatGPT，虽然Gemini还是只能用API KEY来连接，但我原本就有在用AI Studio，所以里面是有钱的。

若要组织bot群，我可以再花20美元订阅Hermes的方案选便宜模型多建几个bot，或是拿去订阅Claude再接入Hermes，其实怎么用都不亏。

要再省钱可以Claude用20美元的，ChatGPT有10美元的，Gemini只看PDF不会花太多，这样就够我组成一个最小单位的bot群了，聊天栏还可以用MOA(mix of agent)的方式。

那就算不好用，我也能回去用各模型原生的介面，我之前就用Claude串接过ChatGPT和Gemini，用Hermes主要是因为有bot和MOA的功能。

事实上我现在已经没在用ChatGPT自己的介面了。

墨魚

昨天訂閱了claude chatgpt gemini，讓他們做個MoA (mixture of agents)，效果比我之前四個bot要好，之前四個bot常常互卡流程、互丟問題，MoA的執行順序則是由官方寫死了。

其實反推回來，我已經有了很明確的一份專利文件，那其實就是一根腸子通到底的去讀->分析->整理，不用搞什麼bot在那打架。

後來又裝了記憶插件，原本是試用hermes裡面內建的hindsight，但是沒幾個小時就扣了4美元，還好官方有送五美元的額度，現在是裝mnemosyne，這是裝在本地端的

這是他在GitHub的主頁：
https://github.com/mnemosyne-oss/mnemosyne

這是專門給hermes的安裝教學：
https://github.com/mnemosyne-oss/mnemosyne/blob/main/docs/hermes-integration.md

先讓AI讀一遍網址，讓他抓出要注意的地方：
(一) 主頁有提到語言包的分別，AI是推薦我裝jinaai/jina-embeddings-v2-base-zh，這是中英混和，容量適中，但是主頁沒有，可能要裝的人要先提示AI

(二)在給hermes的教學網址裡，有提到 (1) mnemosyne-memory[embeddings]和 (2) mnemosyne-hermes，要裝的是(2)，裝(1)沒有用。

imbiplaza ASUS

一架win11 server, 32gb ram,
本机是qwen3.8 27b，
里面安装4个虚拟机,openclaw, hermes, dsh, codex
开动一个share folder, 各自处理自己的事情
然后你要把这四个小管家般回家，直接压缩虚拟机档案，回家打开。。。

墨魚

我今天一時好奇，讓AI去看MoA (mixture of agents)的程式碼，結果AI跟我說：
在moa_loop.py裡面，_REFERENCE_TOOL_RESULT_BUDGET = 4000
單位是字元（characters）

四千字元就是顧問模型（Reference Models）會讀的範圍，但我給的文件，至少都四萬、五萬字元，AI說顧問模型只會讀前兩千與後兩千字元，中間的全部跳過。

AI建議我改成12000，但又跟我說了一堆事，最後幫我發PR到GitHub去
https://github.com/NousResearch/hermes-agent/pull/105612#issuecomment-5582260161

那我發了就不用管它了嗎？會有人來接手決定要不要改？

=====底下是AI跟我說的事情，第九點是他說要發PR的原因=====

架構設計與修改原則
Preset 級別配置：
支援 moa.presets.<name>.reference_tool_result_budget，可針對不同 Preset（例如專供長文件審閱的 preset）獨立配置預算。
安全上下限保護（Clamping）：
數值範圍鎖定在 [1000, 32000]。過小（<1000）會喪失工具輸出上下文；過大（>32000）則會在單次回合多個工具調用時耗盡 Reference 模型的上下文視窗。
安全回退（Fallback）機制：

產品原廠預設值與無效輸入（如 None、0、負數、非數值字串、布林值、inf/nan）一律安全回退為 4000。
本機使用者 Profile（config.yaml）明確配置為 12000。

全面接軌所有調用路徑：

Persistent MoA 模式：MoAChatCompletions.create()
單次調用模式：/moa <prompt> 與 turn_request_assembly._append_moa_context -> aggregate_moa_context()

周邊生態完整支援：

CLI 驗證：支援任意自訂 Preset 名稱，防止 hermes config set 發出未辨識鍵警告，同時保留對錯字（Typo）的拒絕提示。
Web / Dashboard API：在 web_models.py 與 models.py 宣告該欄位，確保 Named Preset 與 Legacy Flat Payload 的 PUT/GET Round-trip 不會無聲丟棄該設定。

重要限制與維護指引
常駐行程生效需求：
本次修改涉及 Python 原始碼（agent/moa_loop.py 等）。由於 Python 模組載入後常駐於記憶體，必須完全重啟 Hermes Desktop / Hermes CLI 應用程式，修改後之程式碼才會在當前運行中環境正式載入。
hermes update 覆蓋風險：
修改位於本機 Git Checkout 目錄。未來若執行 hermes update，Git Pull 可能會因本機修改產生衝突或被覆蓋。

config.yaml 內的設定值（fanout: per_iteration 與 budget: 12000）會永久保留。
若程式碼被更新覆蓋，可參考本紀錄中的補丁快速重新套用，或將此改動向上游官方 Repository 提交 Pull Request。

imbiplaza ASUS

@墨魚

其实我给你一个构思，看看可以启发到你没有。。

我其中一个身份是会计师，每一次收到人家的银行加密的pdf (只能打开，不能转edit, 也不能转excel)

每一个月收到大约 400份，每一份 80页

我不可能每一页跟他烦。。

后来我写了这一段代码：

自动把加密的文件转成ocr, 然后解密，转成excel....

进到excel 我自己转成我爱的pivot

我做的ocr 辨识度是100% (如果没100% 就叫codex 改到100%为止）

我在马来西亚搞了10家银行的不同format, 都会按照format 去自动读取全部数据，不需要借助online qwen 即时分析

https://github.com/karuvanan/bank-statement-pdf-export-excel

墨魚

@imbiplaza-asus
謝謝~
其實AI從一開始就有建議我先轉md檔，
一次處理一個區塊，
只是我都丟給AI就叫他直接讀，
以後我會認真轉檔

抡锤者

该用Hermes？还是西方三家一起订?