抡锤者

大家好，我是一個50歲的中年大叔
現在剛剛開始接觸本地部署ai
希望可以在工餘的時間完成以前想做，但沒有時間做的事。
希望完成3個以前想好的小說故事
往後有很多的問題。希望各位大神多多指教。

hello GH Y
我也是本地部署打算用來輸出小說。
已經運行了幾個月
你挑的主機板很好。
我用的是
Asrock x870e taichi 和 x870 creator
兩條pcie之間的距離多1格
如果密閉機箱，在日後雙卡的話，對上面的gpu溫度應該有少許幫助。
如果閣下主機板未買的話可以參考一下。

加油，加油，加油。

我也很喜歡看Terry介紹硬件。
看了又看，看完再看。
因為以前開始購買硬件的確行了很多冤枉路。
所以我覺得這個話題看不厭的。
正如Terry所說
建議買intxx的....本地部署低b數的模型的....
我就是中伏用筆記本開始跑...
之後又中伏用普通內存跑235b。
其實，我看到有一些油管的視頻。會用四條ddr5,但其實四條ddr幾乎不可能全速運行的，大部分家用主機板會降頻去到3600。
這些都要中過伏才知道
Terry 會否考慮一下
出一集按預算挑選設備（整机）
10000,20000,40000.....
不過可能會很辛苦
但應該很好看。

各位大大好
很興奮想和大家分享和閒聊一下

花了足足3個星期。
現在2号電腦終於組裝好了。
還沒有測試已經超級疲倦
明天要趁太太和女兒去理髮，開機測試

多謝之前kos提議裝遙控開關。
但現在電腦沒有空位了。

不過已經跟女兒說好上學前幫我開機放學後幫我關機。

現在一號機
用來運作語言大模型。
今天在windows lm studio 運行qwen3 80b q4km, 260k q4 kv context, gpu x2 TP, 輸出接近180token, 不過當時上下文只用了大約五par
速度相當快
但感覺上有點不穩定。

之前沒有tp功能的時候是用pp。
速度大約是130
tp真是快很多。
不過gpu溫度明顯比pp高了
可能以後都會用pp算了。
Gpu太貴重要好好保護

2號機作為agent
打算遙控生圖

看了特哥很多的視頻決定用hermes
正如特哥在youtube所說，先把這部機跑起來。
希望明天一次過搞定
其他的慢慢在調節。

另外。2號機的部分。
配置都是差不多。
9900x
128gb 內存
Asrock x870e taichi(pcie5 x8 mode x 2)
3090 × 2
Gpu 是朋友送的rog3090, 我自己在補了一張。
這一台電腦我打算安裝agent。
全新的windows 及賬戶

打算遙控操作

今天稍後進行安裝