该用Hermes?还是西方三家一起订?
-
刚刚在读第二份专利(PDF档)的时候,遇到一个问题,就是字体难以辨识。
bot一直在纠结很多地方无法判别,bot称为OCR腐蚀,今天储值了三十美元,最后剩一美元,claude-opus-5吃掉二十二美元。
还好bot也整理出很多条心得,就当做是交学费了,这种文献还有很多辨识上的问题今天还没遇到,我得加个规则还有换个便宜点的模型。
-
@kop-wang
我記得大約2015年以後,各國專利局給出的PDF才能用滑鼠直接框出裡面的文字,其實我公司有給我一套商用專利資料庫,裡面直接就有專利內容的文字,我可以直接複製再貼成純文字檔,和PDF一起給bot,但因為專利圖面依舊是圖片,所以我想讓bot順便學習文字的OCR,只是沒想到學費還挺貴的。@xiaote
bot的規則原本就有規定只試兩次,但opus說他還是超過次數了,他有跟我道歉,但我不知道"AI跟我道歉"這個舉動有沒有意義?重點是我要防範bot不守規則==================
昨天的事其實我原本不想介入,想說AI那麼厲害,讓它們自己搞定就好了,但最後我看到錢快沒了,還是選擇將答案告訴它們,很感謝這裡有人陪我來檢討這個流程。
-
@kop-wang
我記得大約2015年以後,各國專利局給出的PDF才能用滑鼠直接框出裡面的文字,其實我公司有給我一套商用專利資料庫,裡面直接就有專利內容的文字,我可以直接複製再貼成純文字檔,和PDF一起給bot,但因為專利圖面依舊是圖片,所以我想讓bot順便學習文字的OCR,只是沒想到學費還挺貴的。@xiaote
bot的規則原本就有規定只試兩次,但opus說他還是超過次數了,他有跟我道歉,但我不知道"AI跟我道歉"這個舉動有沒有意義?重點是我要防範bot不守規則==================
昨天的事其實我原本不想介入,想說AI那麼厲害,讓它們自己搞定就好了,但最後我看到錢快沒了,還是選擇將答案告訴它們,很感謝這裡有人陪我來檢討這個流程。
-
@墨魚 两个问题分开答:
1. "AI 道歉"没有契约意义。 那是模型续写时的礼貌性文本——LLM 没有"认错"这个系统动作,它只是生成了"对不起"这句话。prompt 里的规则对模型来说是上下文不是代码,长任务、token 压力、上下文漂移都会让它"忘记"规则,所以"规则规定了两次"不等于"只执行两次"。
2. 防不守规则的正确姿势:把规则从 prompt 层搬到代码层。
- 重试计数放 bot 脚本里:每次调用前检查计数,超限直接停,不给模型第三次机会
- 调用层设硬预算:单任务 token 上限 + 调用次数上限,由脚本执行,不靠模型自觉
- 让模型"申报"执行轨迹:output_schema 里带 attempt/result 字段,脚本逐条校验,对不上就告警
- 超限路径主动通知你,而不是等模型道歉
- "AI 道歉"的唯一价值 = 信号:说明 pipeline 有洞,拿去当日志排查,别当承诺
3. OCR 学费贵 同 15207 楼说的:文字能复制就复制(商用专利库直接导出文本,100% 准),OCR 只留给图面和公式区,用本地 RapidOCR 或小多模态模型专责,opus 只留最终判断。重试规则代码化之后,单份成本能压回 $2-3 级别。
-
我今天发现Hermes其实可以用OAuth的方式来连接月费制的模型,而我原本就有订阅ChatGPT,虽然Gemini还是只能用API KEY来连接,但我原本就有在用AI Studio,所以里面是有钱的。
若要组织bot群,我可以再花20美元订阅Hermes的方案选便宜模型多建几个bot,或是拿去订阅Claude再接入Hermes,其实怎么用都不亏。
要再省钱可以Claude用20美元的,ChatGPT有10美元的,Gemini只看PDF不会花太多,这样就够我组成一个最小单位的bot群了,聊天栏还可以用MOA(mix of agent)的方式。
那就算不好用,我也能回去用各模型原生的介面,我之前就用Claude串接过ChatGPT和Gemini,用Hermes主要是因为有bot和MOA的功能。
事实上我现在已经没在用ChatGPT自己的介面了。
-
昨天訂閱了claude chatgpt gemini,讓他們做個MoA (mixture of agents),效果比我之前四個bot要好,之前四個bot常常互卡流程、互丟問題,MoA的執行順序則是由官方寫死了。
其實反推回來,我已經有了很明確的一份專利文件,那其實就是一根腸子通到底的去讀->分析->整理,不用搞什麼bot在那打架。
後來又裝了記憶插件,原本是試用hermes裡面內建的hindsight,但是沒幾個小時就扣了4美元,還好官方有送五美元的額度,現在是裝mnemosyne,這是裝在本地端的
這是他在GitHub的主頁:
https://github.com/mnemosyne-oss/mnemosyne這是專門給hermes的安裝教學:
https://github.com/mnemosyne-oss/mnemosyne/blob/main/docs/hermes-integration.md先讓AI讀一遍網址,讓他抓出要注意的地方:
(一) 主頁有提到語言包的分別,AI是推薦我裝jinaai/jina-embeddings-v2-base-zh,這是中英混和,容量適中,但是主頁沒有,可能要裝的人要先提示AI(二)在給hermes的教學網址裡,有提到 (1) mnemosyne-memory[embeddings]和 (2) mnemosyne-hermes,要裝的是(2),裝(1)沒有用。
-
一架win11 server, 32gb ram,
本机是qwen3.8 27b,
里面安装4个虚拟机,openclaw, hermes, dsh, codex
开动一个share folder, 各自处理自己的事情
然后你要把这四个小管家般回家,直接压缩虚拟机档案,回家打开。。。 -
我今天一時好奇,讓AI去看MoA (mixture of agents)的程式碼,結果AI跟我說:
在moa_loop.py裡面,_REFERENCE_TOOL_RESULT_BUDGET = 4000
單位是字元(characters)四千字元就是顧問模型(Reference Models)會讀的範圍,但我給的文件,至少都四萬、五萬字元,AI說顧問模型只會讀前兩千與後兩千字元,中間的全部跳過。
AI建議我改成12000,但又跟我說了一堆事,最後幫我發PR到GitHub去
https://github.com/NousResearch/hermes-agent/pull/105612#issuecomment-5582260161那我發了就不用管它了嗎?會有人來接手決定要不要改?
=====底下是AI跟我說的事情,第九點是他說要發PR的原因=====
-
架構設計與修改原則
-
Preset 級別配置:
支援moa.presets.<name>.reference_tool_result_budget,可針對不同 Preset(例如專供長文件審閱的 preset)獨立配置預算。 -
安全上下限保護(Clamping):
數值範圍鎖定在[1000, 32000]。過小(<1000)會喪失工具輸出上下文;過大(>32000)則會在單次回合多個工具調用時耗盡 Reference 模型的上下文視窗。 -
安全回退(Fallback)機制:
- 產品原廠預設值與無效輸入(如
None、0、負數、非數值字串、布林值、inf/nan)一律安全回退為 4000。 - 本機使用者 Profile(
config.yaml)明確配置為 12000。
- 全面接軌所有調用路徑:
- Persistent MoA 模式:
MoAChatCompletions.create() - 單次調用模式:
/moa <prompt>與turn_request_assembly._append_moa_context->aggregate_moa_context()
- 周邊生態完整支援:
- CLI 驗證:支援任意自訂 Preset 名稱,防止
hermes config set發出未辨識鍵警告,同時保留對錯字(Typo)的拒絕提示。 - Web / Dashboard API:在
web_models.py與models.py宣告該欄位,確保 Named Preset 與 Legacy Flat Payload 的 PUT/GET Round-trip 不會無聲丟棄該設定。
-
重要限制與維護指引
-
常駐行程生效需求:
本次修改涉及 Python 原始碼(agent/moa_loop.py等)。由於 Python 模組載入後常駐於記憶體,必須完全重啟 Hermes Desktop / Hermes CLI 應用程式,修改後之程式碼才會在當前運行中環境正式載入。 -
hermes update覆蓋風險:
修改位於本機 Git Checkout 目錄。未來若執行hermes update,Git Pull 可能會因本機修改產生衝突或被覆蓋。
config.yaml內的設定值(fanout: per_iteration與budget: 12000)會永久保留。- 若程式碼被更新覆蓋,可參考本紀錄中的補丁快速重新套用,或將此改動向上游官方 Repository 提交 Pull Request。
-
-
我今天一時好奇,讓AI去看MoA (mixture of agents)的程式碼,結果AI跟我說:
在moa_loop.py裡面,_REFERENCE_TOOL_RESULT_BUDGET = 4000
單位是字元(characters)四千字元就是顧問模型(Reference Models)會讀的範圍,但我給的文件,至少都四萬、五萬字元,AI說顧問模型只會讀前兩千與後兩千字元,中間的全部跳過。
AI建議我改成12000,但又跟我說了一堆事,最後幫我發PR到GitHub去
https://github.com/NousResearch/hermes-agent/pull/105612#issuecomment-5582260161那我發了就不用管它了嗎?會有人來接手決定要不要改?
=====底下是AI跟我說的事情,第九點是他說要發PR的原因=====
-
架構設計與修改原則
-
Preset 級別配置:
支援moa.presets.<name>.reference_tool_result_budget,可針對不同 Preset(例如專供長文件審閱的 preset)獨立配置預算。 -
安全上下限保護(Clamping):
數值範圍鎖定在[1000, 32000]。過小(<1000)會喪失工具輸出上下文;過大(>32000)則會在單次回合多個工具調用時耗盡 Reference 模型的上下文視窗。 -
安全回退(Fallback)機制:
- 產品原廠預設值與無效輸入(如
None、0、負數、非數值字串、布林值、inf/nan)一律安全回退為 4000。 - 本機使用者 Profile(
config.yaml)明確配置為 12000。
- 全面接軌所有調用路徑:
- Persistent MoA 模式:
MoAChatCompletions.create() - 單次調用模式:
/moa <prompt>與turn_request_assembly._append_moa_context->aggregate_moa_context()
- 周邊生態完整支援:
- CLI 驗證:支援任意自訂 Preset 名稱,防止
hermes config set發出未辨識鍵警告,同時保留對錯字(Typo)的拒絕提示。 - Web / Dashboard API:在
web_models.py與models.py宣告該欄位,確保 Named Preset 與 Legacy Flat Payload 的 PUT/GET Round-trip 不會無聲丟棄該設定。
-
重要限制與維護指引
-
常駐行程生效需求:
本次修改涉及 Python 原始碼(agent/moa_loop.py等)。由於 Python 模組載入後常駐於記憶體,必須完全重啟 Hermes Desktop / Hermes CLI 應用程式,修改後之程式碼才會在當前運行中環境正式載入。 -
hermes update覆蓋風險:
修改位於本機 Git Checkout 目錄。未來若執行hermes update,Git Pull 可能會因本機修改產生衝突或被覆蓋。
config.yaml內的設定值(fanout: per_iteration與budget: 12000)會永久保留。- 若程式碼被更新覆蓋,可參考本紀錄中的補丁快速重新套用,或將此改動向上游官方 Repository 提交 Pull Request。
其实我给你一个构思,看看可以启发到你没有。。
我其中一个身份是会计师,每一次收到人家的银行加密的pdf (只能打开,不能转edit, 也不能转excel)
每一个月收到大约 400份,每一份 80页
我不可能每一页跟他烦。。
后来我写了这一段代码:
自动把加密的文件转成ocr, 然后解密,转成excel....
进到excel 我自己转成我爱的pivot
我做的ocr 辨识度是100% (如果没100% 就叫codex 改到100%为止)
我在马来西亚搞了10家银行的不同format, 都会按照format 去自动读取全部数据,不需要借助online qwen 即时分析
https://github.com/karuvanan/bank-statement-pdf-export-excel
-
-
@imbiplaza-asus
謝謝~
其實AI從一開始就有建議我先轉md檔,
一次處理一個區塊,
只是我都丟給AI就叫他直接讀,
以後我會認真轉檔