RTX 4070 12GB + RTX 3060 12GB:Windows 跑 Strata / Qwen3.8 Flash-Next,Linux 跑 Qwen3.8 27B 与 Flash-Next,SGLang、vLLM、Strata 配置及实测
-
我也是跟您很像的配置
13700k, 4070 12gb + 3080 10gb
可惜的就是我的主板第二槽pcie只有3.0 x4,未來應該要升級
看到您的貼文後,我也決定升級下我的內存到ddr4 64gb
qwen 3.8 flash/27b都來試試
不過這樣的2張顯卡機殼內發熱量肯定溫暖,您有做甚麼power限制或處理嗎?也想順便請教電供是幾瓦特的
以及27b跑到256k的話是否有機會,prefill, decode速度會如何呢? -
我也是跟您很像的配置
13700k, 4070 12gb + 3080 10gb
可惜的就是我的主板第二槽pcie只有3.0 x4,未來應該要升級
看到您的貼文後,我也決定升級下我的內存到ddr4 64gb
qwen 3.8 flash/27b都來試試
不過這樣的2張顯卡機殼內發熱量肯定溫暖,您有做甚麼power限制或處理嗎?也想順便請教電供是幾瓦特的
以及27b跑到256k的話是否有機會,prefill, decode速度會如何呢? -
@he-wanga 我现在是前面三个120进风扇, 加上两个120CPU风扇,都是往后吹
-
-
我正好现在也卡在了qwen 3.8 27B / 3.6 35B / Strata 0.1.31这3个选择难题了。
我的是3090Ti+3080,1600瓦电源,64GB,pcie 5 x16 + 4 x 4。感觉pcie通信不重要。主要是vram整体太小了。 -
-
-
谢谢版主,一会更新一下linux sglang配置
-
@Thanaots 我觉得你换个主板成本最低,3080 4x4肯定是在走芯片组, 感觉跑不满。两张显卡都走cpu x16能发挥最大效率
-
@Thanaots 我觉得你换个主板成本最低,3080 4x4肯定是在走芯片组, 感觉跑不满。两张显卡都走cpu x16能发挥最大效率
我还有一个不换成本的选择,是在那个PC1E 5×16的通道上,装一个拓展卡,把这个拆成5×8+5×8.我打算试一下。
-
-
@Thanaots 但是你的30系显卡不支持pcie5,只能走4X8
-
谢谢版主,一会更新一下linux sglang配置
-
@Bruce-Wayne 我更想看你的机箱硬件分享,你更新一个,我看看要不要单独开一个子版块给大家秀下自己的硬件,说真的挺好看的。
-
版主审定:本帖设为精华,作者 +5 积分奖励,希望再接再厉!
