抡锤者

跑DeepSeek-V4.1-Flash

大家好，請問strata的方法，
可不可以用MAC M5 512G
或兩台256G串聯的方法，
來代替記憶體？
謝謝

各位前輩大家好，
有一件事想向大家請教，
請問在使用Strata跑本地模型的情況下，
用DDR5記憶體+pcie5插槽裝pro 6000，
跟用DDR4記憶體+pcie4裝pro 6000，
跑DeepSeek-V4.1-Flash跟其他比較大的模型，實際使用上有什麼差異呢？
差距很大嗎？謝謝

@kos-or 您好，謝謝你的建議，不過我在google查strata是地層的意思，請問是什麼
原因呢？我現在用hermes跑DeepSeek V4.1 Flash感覺一般的問答速度很快，
可是要他上網查資料就很慢，可能上網查
資料的問題還是用gpt比較適合，謝謝

花了快一個小時，終於完成複雜問題了，上下文32K只剩3K
答案還好，比GPT差，看來這種地端模型適合簡單的隱私性任務，
不過算很實用的模型

是:診斷，兩個字害的嗎?

我的配備是INTEL285K CPU + DDR5 6000 48*4=192G記憶體 + PROO 6000 96G MAX-Q顯示卡
感謝網友教我安裝使用ChatGPT的桌面板，安裝新模型快多了 ，
剛剛請GPT用新技術教我安裝好:deepseek-v4.1 flash，實際跑起來的感覺，
除了第一次對話的:你好，的首字延遲依然要3~4分鐘以上，
但是第2句:晚上好，是2秒就回答，甚至比以前用122B或者是用GPT還快，
第3句稍微複雜一點點，但是也是幾秒內就回答完畢了，只是HERMES跟上次改本一樣，有點失憶，
不過這個用GPT很好修，
感覺這個模型可用，我正在測試要上網查詢的複雜問題，他3秒內就開始思考，一分鐘出現要我確認問題的選項，
目前已經11分鐘了，還在慢慢思考分段回答

說說我台灣華碩的情況，
今年的4月25，我組了一台電腦，用的是華碩15000台幣的主機板，買回家第五天，10G網路故障，使用幾個小時會偶爾斷線，要進入重新啟動網路卡後恢復正常，報修後兩天收回送修，經過兩個禮拜寄回來，說沒發現什麼異常，然後我使用三天，又出現相同的問題，然後又報修，經過15天後，客服打電話給我，説還是沒發現問題，我問他們可不可以我貼錢請他們換塊好的給我，結果說要問主管，經過3天後打電話給我，說同意換一塊相同的好的板子給我，再經過一個禮拜之後收到，(盒子有點舊)，結果我又用了兩天之後，又出現同樣問題，這塊板子當時又缺貨，我買不到新的來替換，只好上網買了10G的網路卡，等了5天後裝上去，就正常了，結果我花55萬台幣，買了包含pro6000 96g顯卡，跟ddr5 192g記憶體的電腦，兩個多月只用了幾天，趕上龍蝦跟hermes的熱潮，等我覺得新電腦搭配hermes真的很好用，想再買一塊pro6000的時候，已經漲價了11萬台幣，當時就捨不得買，結果到現在已經漲20幾萬台幣，越來越買不下手了，可是華碩在台灣還是很貴

@Tony-Wang 好的，謝謝

@Tony-Wang 您好，我查了一下，可是還是不知道你說的@terry是誰和什麼意思？我是一個看不懂英文的外行人，不好意思可以麻煩您白話一點告訴我嗎，謝謝

@Tony-Wang 好的，我是請GPT推薦，我的配置在新技術下能跑的最大模型，等等就來裝大家推薦的3.8，謝謝

這就像工業革命，越來越多的事不需要人做，所以大家越來越閒，但因為整體生產力越來越高，在政治與統治架構崩塌重組之後，等一切趨於穩定，大家沒事就埋首造娃，不過這需要長期的教育與政府引導，不要像現在的趨勢，個人太重視短暫單一的滿足方法，沒有了延續的誘因，這樣下去滅亡人類的不是科技發展，而是思想放棄

@fly 好的，謝謝

@Tony-Wang 個人使用，只是想試試，謝謝

好的，謝謝指導，謝謝

@Tony-Wang 好的，已經知道手機版怎麼弄到大陸版的，但是電腦版好像沒辦法，謝謝

@terry 我只是想知道行情，然後再來淘寶或鹹魚上面找看看，謝謝

各位前輩大家好，
我照這種方式，192G記憶體 +96G顯卡，
用hermes跑了GLM-5.3-Flash IQ4_XS
這個模型，320B，IQ4_XS約157G大小，
雖然跑得起來，但是照gpt說的優化後，
第一次問答，說一句：你好，要4分20秒
後才顯示：進入思考過程，再過10幾秒
才吐出文字，文字出現的速度大概一秒兩
到三個，(因為我不會計算t/s)，第二次問：
你好，大概30秒後開始回答，不過幾秒
內就回答好了，
接著問比較複雜，需要上網查詢的問題，
思考了超過半個小時後，我就把螢幕關掉
沒理他，過兩三個小時後打開，他顯示了
一半的答案，然後最下面說的一句這個任
務已經結束，也不知道為了什麼原因？
我不知道這是因為模型太接近記憶體上限
的原因？還是GPT教我的方法不太對，
目前就是能用但不實用的樣子

大家好，
請問各位，新的能用RAM搭配中高階顯卡，跑超大模型的技術，是不是叫：MoE混合卸載呢？或是叫什麼名稱呢？我要問AI都不確定，謝謝