该用Hermes？还是西方三家一起订?
-
@kop-wang
我記得大約2015年以後，各國專利局給出的PDF才能用滑鼠直接框出裡面的文字，其實我公司有給我一套商用專利資料庫，裡面直接就有專利內容的文字，我可以直接複製再貼成純文字檔，和PDF一起給bot，但因為專利圖面依舊是圖片，所以我想讓bot順便學習文字的OCR，只是沒想到學費還挺貴的。@xiaote
bot的規則原本就有規定只試兩次，但opus說他還是超過次數了，他有跟我道歉，但我不知道"AI跟我道歉"這個舉動有沒有意義？重點是我要防範bot不守規則==================
昨天的事其實我原本不想介入，想說AI那麼厲害，讓它們自己搞定就好了，但最後我看到錢快沒了，還是選擇將答案告訴它們，很感謝這裡有人陪我來檢討這個流程。
-
@墨魚 两个问题分开答：
1. "AI 道歉"没有契约意义。 那是模型续写时的礼貌性文本——LLM 没有"认错"这个系统动作，它只是生成了"对不起"这句话。prompt 里的规则对模型来说是上下文不是代码，长任务、token 压力、上下文漂移都会让它"忘记"规则，所以"规则规定了两次"不等于"只执行两次"。
2. 防不守规则的正确姿势：把规则从 prompt 层搬到代码层。
- 重试计数放 bot 脚本里：每次调用前检查计数，超限直接停，不给模型第三次机会
- 调用层设硬预算：单任务 token 上限 + 调用次数上限，由脚本执行，不靠模型自觉
- 让模型"申报"执行轨迹：output_schema 里带 attempt/result 字段，脚本逐条校验，对不上就告警
- 超限路径主动通知你，而不是等模型道歉
- "AI 道歉"的唯一价值 = 信号：说明 pipeline 有洞，拿去当日志排查，别当承诺
3. OCR 学费贵 同 15207 楼说的：文字能复制就复制（商用专利库直接导出文本，100% 准），OCR 只留给图面和公式区，用本地 RapidOCR 或小多模态模型专责，opus 只留最终判断。重试规则代码化之后，单份成本能压回 $2-3 级别。
-
我今天发现Hermes其实可以用OAuth的方式来连接月费制的模型，而我原本就有订阅ChatGPT，虽然Gemini还是只能用API KEY来连接，但我原本就有在用AI Studio，所以里面是有钱的。
若要组织bot群，我可以再花20美元订阅Hermes的方案选便宜模型多建几个bot，或是拿去订阅Claude再接入Hermes，其实怎么用都不亏。
要再省钱可以Claude用20美元的，ChatGPT有10美元的，Gemini只看PDF不会花太多，这样就够我组成一个最小单位的bot群了，聊天栏还可以用MOA(mix of agent)的方式。
那就算不好用，我也能回去用各模型原生的介面，我之前就用Claude串接过ChatGPT和Gemini，用Hermes主要是因为有bot和MOA的功能。
事实上我现在已经没在用ChatGPT自己的介面了。
-
昨天訂閱了claude chatgpt gemini，讓他們做個MoA (mixture of agents)，效果比我之前四個bot要好，之前四個bot常常互卡流程、互丟問題，MoA的執行順序則是由官方寫死了。
其實反推回來，我已經有了很明確的一份專利文件，那其實就是一根腸子通到底的去讀->分析->整理，不用搞什麼bot在那打架。
後來又裝了記憶插件，原本是試用hermes裡面內建的hindsight，但是沒幾個小時就扣了4美元，還好官方有送五美元的額度，現在是裝mnemosyne，這是裝在本地端的
這是他在GitHub的主頁：
https://github.com/mnemosyne-oss/mnemosyne這是專門給hermes的安裝教學：
https://github.com/mnemosyne-oss/mnemosyne/blob/main/docs/hermes-integration.md先讓AI讀一遍網址，讓他抓出要注意的地方：
(一) 主頁有提到語言包的分別，AI是推薦我裝jinaai/jina-embeddings-v2-base-zh，這是中英混和，容量適中，但是主頁沒有，可能要裝的人要先提示AI(二)在給hermes的教學網址裡，有提到 (1) mnemosyne-memory[embeddings]和 (2) mnemosyne-hermes，要裝的是(2)，裝(1)沒有用。
-
一架win11 server, 32gb ram,
本机是qwen3.8 27b，
里面安装4个虚拟机,openclaw, hermes, dsh, codex
开动一个share folder, 各自处理自己的事情
然后你要把这四个小管家般回家，直接压缩虚拟机档案，回家打开。。。 -
我今天一時好奇，讓AI去看MoA (mixture of agents)的程式碼，結果AI跟我說：
在moa_loop.py裡面，_REFERENCE_TOOL_RESULT_BUDGET = 4000
單位是字元（characters）四千字元就是顧問模型（Reference Models）會讀的範圍，但我給的文件，至少都四萬、五萬字元，AI說顧問模型只會讀前兩千與後兩千字元，中間的全部跳過。
AI建議我改成12000，但又跟我說了一堆事，最後幫我發PR到GitHub去
https://github.com/NousResearch/hermes-agent/pull/105612#issuecomment-5582260161那我發了就不用管它了嗎？會有人來接手決定要不要改？
=====底下是AI跟我說的事情，第九點是他說要發PR的原因=====
-
架構設計與修改原則
-
Preset 級別配置：
支援moa.presets.<name>.reference_tool_result_budget，可針對不同 Preset（例如專供長文件審閱的 preset）獨立配置預算。 -
安全上下限保護（Clamping）：
數值範圍鎖定在[1000, 32000]。過小（<1000）會喪失工具輸出上下文；過大（>32000）則會在單次回合多個工具調用時耗盡 Reference 模型的上下文視窗。 -
安全回退（Fallback）機制：
- 產品原廠預設值與無效輸入（如
None、0、負數、非數值字串、布林值、inf/nan）一律安全回退為 4000。 - 本機使用者 Profile（
config.yaml）明確配置為 12000。
- 全面接軌所有調用路徑：
- Persistent MoA 模式：
MoAChatCompletions.create() - 單次調用模式：
/moa <prompt>與turn_request_assembly._append_moa_context->aggregate_moa_context()
- 周邊生態完整支援：
- CLI 驗證：支援任意自訂 Preset 名稱，防止
hermes config set發出未辨識鍵警告，同時保留對錯字（Typo）的拒絕提示。 - Web / Dashboard API：在
web_models.py與models.py宣告該欄位，確保 Named Preset 與 Legacy Flat Payload 的 PUT/GET Round-trip 不會無聲丟棄該設定。
-
重要限制與維護指引
-
常駐行程生效需求：
本次修改涉及 Python 原始碼（agent/moa_loop.py等）。由於 Python 模組載入後常駐於記憶體，必須完全重啟 Hermes Desktop / Hermes CLI 應用程式，修改後之程式碼才會在當前運行中環境正式載入。 -
hermes update覆蓋風險：
修改位於本機 Git Checkout 目錄。未來若執行hermes update，Git Pull 可能會因本機修改產生衝突或被覆蓋。
config.yaml內的設定值（fanout: per_iteration與budget: 12000）會永久保留。- 若程式碼被更新覆蓋，可參考本紀錄中的補丁快速重新套用，或將此改動向上游官方 Repository 提交 Pull Request。
-
-
我今天一時好奇，讓AI去看MoA (mixture of agents)的程式碼，結果AI跟我說：
在moa_loop.py裡面，_REFERENCE_TOOL_RESULT_BUDGET = 4000
單位是字元（characters）四千字元就是顧問模型（Reference Models）會讀的範圍，但我給的文件，至少都四萬、五萬字元，AI說顧問模型只會讀前兩千與後兩千字元，中間的全部跳過。
AI建議我改成12000，但又跟我說了一堆事，最後幫我發PR到GitHub去
https://github.com/NousResearch/hermes-agent/pull/105612#issuecomment-5582260161那我發了就不用管它了嗎？會有人來接手決定要不要改？
=====底下是AI跟我說的事情，第九點是他說要發PR的原因=====
-
架構設計與修改原則
-
Preset 級別配置：
支援moa.presets.<name>.reference_tool_result_budget，可針對不同 Preset（例如專供長文件審閱的 preset）獨立配置預算。 -
安全上下限保護（Clamping）：
數值範圍鎖定在[1000, 32000]。過小（<1000）會喪失工具輸出上下文；過大（>32000）則會在單次回合多個工具調用時耗盡 Reference 模型的上下文視窗。 -
安全回退（Fallback）機制：
- 產品原廠預設值與無效輸入（如
None、0、負數、非數值字串、布林值、inf/nan）一律安全回退為 4000。 - 本機使用者 Profile（
config.yaml）明確配置為 12000。
- 全面接軌所有調用路徑：
- Persistent MoA 模式：
MoAChatCompletions.create() - 單次調用模式：
/moa <prompt>與turn_request_assembly._append_moa_context->aggregate_moa_context()
- 周邊生態完整支援：
- CLI 驗證：支援任意自訂 Preset 名稱，防止
hermes config set發出未辨識鍵警告，同時保留對錯字（Typo）的拒絕提示。 - Web / Dashboard API：在
web_models.py與models.py宣告該欄位，確保 Named Preset 與 Legacy Flat Payload 的 PUT/GET Round-trip 不會無聲丟棄該設定。
-
重要限制與維護指引
-
常駐行程生效需求：
本次修改涉及 Python 原始碼（agent/moa_loop.py等）。由於 Python 模組載入後常駐於記憶體，必須完全重啟 Hermes Desktop / Hermes CLI 應用程式，修改後之程式碼才會在當前運行中環境正式載入。 -
hermes update覆蓋風險：
修改位於本機 Git Checkout 目錄。未來若執行hermes update，Git Pull 可能會因本機修改產生衝突或被覆蓋。
config.yaml內的設定值（fanout: per_iteration與budget: 12000）會永久保留。- 若程式碼被更新覆蓋，可參考本紀錄中的補丁快速重新套用，或將此改動向上游官方 Repository 提交 Pull Request。
其实我给你一个构思，看看可以启发到你没有。。
我其中一个身份是会计师，每一次收到人家的银行加密的pdf (只能打开，不能转edit, 也不能转excel)
每一个月收到大约 400份，每一份 80页
我不可能每一页跟他烦。。
后来我写了这一段代码：
自动把加密的文件转成ocr, 然后解密，转成excel....
进到excel 我自己转成我爱的pivot
我做的ocr 辨识度是100% (如果没100% 就叫codex 改到100%为止）
我在马来西亚搞了10家银行的不同format, 都会按照format 去自动读取全部数据，不需要借助online qwen 即时分析
https://github.com/karuvanan/bank-statement-pdf-export-excel
-
-
@imbiplaza-asus
謝謝~
其實AI從一開始就有建議我先轉md檔，
一次處理一個區塊，
只是我都丟給AI就叫他直接讀，
以後我會認真轉檔
