<![CDATA[新技術測試]]>各位前輩大家好，
我照這種方式，192G記憶體 +96G顯卡，
用hermes跑了GLM-5.3-Flash IQ4_XS
這個模型，320B，IQ4_XS約157G大小，
雖然跑得起來，但是照gpt說的優化後，
第一次問答，說一句：你好，要4分20秒
後才顯示：進入思考過程，再過10幾秒
才吐出文字，文字出現的速度大概一秒兩
到三個，(因為我不會計算t/s)，第二次問：
你好，大概30秒後開始回答，不過幾秒
內就回答好了，
接著問比較複雜，需要上網查詢的問題，
思考了超過半個小時後，我就把螢幕關掉
沒理他，過兩三個小時後打開，他顯示了
一半的答案，然後最下面說的一句這個任
務已經結束，也不知道為了什麼原因？
我不知道這是因為模型太接近記憶體上限
的原因？還是GPT教我的方法不太對，
目前就是能用但不實用的樣子

]]>https://lcz.me/topic/2130RSS for NodeMon, 12 Oct 2026 14:26:59 GMTTue, 06 Oct 2026 04:26:58 GMT60<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 14:23:58 GMT]]>

@怪物 said:

用hermes跑DeepSeek V4.1 Flash感覺一般的問答速度很快，
可是要他上網查資料就很慢

可以開 Codex Agent GPT-SOL/Astra 幫你調整優化 Hermes + DeepSeek V4.1 Flash
應該是會更快的

不過我在google查strata是地層的意思，請問是什麼

都讓Agent 代理人 幫你查就好，基本上我們只提出要求
丟給Agent 讓它安裝 就行 Strata => https://github.com/Niko1221/Strata

]]>https://lcz.me/post/22856https://lcz.me/post/22856Tue, 06 Oct 2026 14:23:58 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 14:00:05 GMT]]>@kos-or 您好，謝謝你的建議，不過我在google查strata是地層的意思，請問是什麼
原因呢？我現在用hermes跑DeepSeek V4.1 Flash感覺一般的問答速度很快，
可是要他上網查資料就很慢，可能上網查
資料的問題還是用gpt比較適合，謝謝

]]>https://lcz.me/post/22852https://lcz.me/post/22852Tue, 06 Oct 2026 14:00:05 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 08:13:59 GMT]]>建議安裝 Strata + Qwen3.8-Flash-Next (QFN) Q3, Q4
QFN Q3版本的確定能用 先安裝這個, Strata 最新版的好像也能安裝 QFN Q4 (Q4 精確度比較高)
可以請GPT Codex Agent 或 Hermes Agent 幫你在LCZ 論壇網站學習一圈, 然後幫你安裝就好就行 或者你請 Agent幫你照抄Nvidia 系列顯卡的配置例如 3090 等
你的顯卡RTX Pro 6000 應該可以達到 180 tok/s 以上的速度 會起飛 非常快

]]>https://lcz.me/post/22789https://lcz.me/post/22789Tue, 06 Oct 2026 08:13:59 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 06:36:04 GMT]]>@Tony-Wang 好的，謝謝

]]>https://lcz.me/post/22785https://lcz.me/post/22785Tue, 06 Oct 2026 06:36:04 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 04:58:14 GMT]]>https://www.youtube.com/@抡锤者

@terry

就是这个论坛的创办人, 以及他的youtube视频号

]]>https://lcz.me/post/22772https://lcz.me/post/22772Tue, 06 Oct 2026 04:58:14 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 04:47:28 GMT]]>@Tony-Wang 您好，我查了一下，可是還是不知道你說的@terry是誰和什麼意思？我是一個看不懂英文的外行人，不好意思可以麻煩您白話一點告訴我嗎，謝謝

]]>https://lcz.me/post/22768https://lcz.me/post/22768Tue, 06 Oct 2026 04:47:28 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 04:45:12 GMT]]>@Tony-Wang 好的，我是請GPT推薦，我的配置在新技術下能跑的最大模型，等等就來裝大家推薦的3.8，謝謝

]]>https://lcz.me/post/22767https://lcz.me/post/22767Tue, 06 Oct 2026 04:45:12 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 04:40:28 GMT]]>@怪物

你还是先多看些帖子, 多看看@terry 的视频.

欲速则不达. 你96G显存, 要跑320B模型, 必须要有个好框架, 能帮你动态加载不同的MOE.

建议你先跑个 qwen27B稠密, 先熟悉起来.

你这些问题, 都不太好回答, 配置,环境, 框架, 参数, 用途...

]]>https://lcz.me/post/22765https://lcz.me/post/22765Tue, 06 Oct 2026 04:40:28 GMT<![CDATA[Reply to 新技術測試 on Tue, 06 Oct 2026 04:28:03 GMT]]>1791258762748.png
1791258762897.png

]]>https://lcz.me/post/22756https://lcz.me/post/22756Tue, 06 Oct 2026 04:28:03 GMT