實測Strata改造雙卡_R9700_本地大模型架構演進與調優實錄

[鍾子揚]

@densha 怕影響風道散熱，所以得收拾收拾XD

[terry]

@鍾子揚 这主机挺好看的，单独发个装备秀啊。多拍几张。

[magic K]

CPU: Intel Core i5-13980HX (魔改)
内存: 16 x 4 DDR4 3600
显卡: RTX 3090 FE
SSD GM7000 512GB的效果

[fcme]

你电源根本就没有必要换1200W够了。你可以实际测一下moe模型，跑起来很省电的。标称的是最大功率，而且你怕费电或者说怕过热的话，可以把功率限制到250W，我自己实测下来限制到250W，r9700的AI性能几乎没有损失。

[applejuice]

@fcme 我的r9700 限制210... 但是我很常看到它偷跑到250w..

[fcme]

@applejuice
那应该是设置无效，然后被系统忽略了，你再研究一下正确的限制方法吧，这个AI做很容易的。

[鍾子揚]

@magic-K 3090 vram記憶題頻寬還是優勢很大~~而且iq2的品質我不太敢用，雖然速度很快，因為我是用100多G的Q4量化版本~Q3的我之前用大概75-80token/s不過跑長鏈任務還是會掉鍊子~常常回報那邊搞錯，這邊有狀況來回重複返工...雖然還是能完成但就是覺得不太能忍受，Bash指令全限有給它，說要刪某的檔案，因為agent指令下錯(太長、截斷、重新跑)變成刪掉整個資料夾就很OOXX。

[懒人烘培]

看到大家都在说9700限制功率250W，是不是7900XTX也可以限制功率到250W，性能没有损失？

[magic K]

@鍾子揚 刚开始跑，测试了长任务，好像确实有些问题。还要在跑些任务看看效果，单纯的跑分其实意义不大，目前给agent权限都是紧盯着之前就因为权限开的大导致全盘文件丢失的问题。

[Thanaots]

@鍾子揚 说:

目前分配還行~有點極限QQ~~

所以又買了1600W等新4T ssd到一起換上去~主盤1TB半年健康度剩下90%~

我有一个一模一样的电源