昨天看到一个博主的配置(5060ti 16G X4 )+华南H12D-8D 这能成吗？

[stxpnet]

@applejuice 我觉得你没必要纠结啊，有没有nvlink随缘了，现在AI发展太快，咱们的3090已经落后好几代的感觉。 但是作为入门还是非常好的。我都下了2-3个T的模型了。。。95%都是QWEN

[applejuice]

@stxpnet 我也希望能用3年 就当作赚了 但是我感觉不坏的话 用个4-5年也还够用啊

换电源也是最后一步了
也是最近才发现 长城 GW-EPS1250DA 1250W Gold（6 路 12V，每路 20A）

3090 我都已经限制245w 也刚刚在及格线
pcie接口只有5个 不够插 （双cpu 双3090 需要6条)
换个电源也保安全
打算换个 SUPERFLOWER LEADEX VIII PRO 1250w

[stxpnet]

直上2000W吧。。。。 我都是买1200W电源，但是目前还有点纠结，现在显卡高位期， 不想买
。边出。边收，还能回本呢。换R9700上一个档次

[applejuice]

@stxpnet 2000太大了

250+250 +300 +100 差不多 900 的样子 刚好 1200的 80%
最多用1000w

[stxpnet]

主要 我有点不确定，满载的时候效果会不会太好，我这卡5月初刚到的时候是小心翼翼。 自从这几天我发现 它满载的时候效果可能更好，我就不锁定它的频率或者功耗了，反正是单卡，接口也没过热，直接当游戏卡一样，让它自动调节 。 @applejuice

[kos or]

5060ti 16GB 的好處是 價格便宜很多 , TDP 180W 不高, 體積又小

找個產品圖 想說價格這麼下跌了, 原來是8GB 版本

[stxpnet]

128bit确实拉胯，但不知道4张叠加是啥效果

[applejuice]

@stxpnet 我只可以庆幸没有满载测试 不然都不懂会不会烧起来
等我换了电源 来试试不限制 看会怎样

[applejuice]

话说h12d-8d pcie 16 的间距是正常的3 条pcie 距离吗

[fanwen1974]

@applejuice 應該只能插 2slot 的吧。

[imbiplaza ASUS]

我来插嘴一下，其实你们在讨论5060ti 还是3090.。。。我以我玩过多卡的经验来给意见：
第一条pcie 5.0 x 16 满载，第二条pcie 3.0 x 4 满载
qwen3.6 27b,
rtx3060 12g = 1 t/s (不足vram, 用ddr4 3200)
rtx3060 12g x 2 = 24g vram = 5 t/s （提升5倍，用第一张开跑compute, 不快，总算可以看到文字在跑动)
rtx3060 12g + rtx 5060ti 16gb = 28g vram = 20 t/s (提升4倍，16gb vram 先满载， rtx3060 12gb loading 一半vram, 主要rtx5060ti 在compute)
rtxpro 4500 32gb 单卡 = 60 t/s （提升3倍, 全部loading 进入vram, 51.2k, 消耗30gb 满载，compute 单卡满载)

建议，你既然在国内，就应该优先选择魔改48g...要不然就选择单卡 32g 或以上。。。
最完美就是你等 blackwell 16g 魔改 32g (,rtx5070ti, 5080 16gb, 他们在做着）

[applejuice]

@imbiplaza-ASUS

3090 是被带歪了
主要是讨论 h12d-8d 带4张5060

h12d-8d 是满载 pcie4 x16 4条
用4张5060在h12d-8d 是有 也只有 pcie4.0x8 的效果

所以4 张 5060 理论也只有pcie4x8 的速度 15.75gb
但是也是terry 说的短板
5060 bandwith 448gb
所以4张 用 llama tp4
效率可能也提高不多
用layer split 应该就更慢了 被15.75gb拖累

唯一的好处应该就是 低价钱 可以用上 27b 长上下文
效率 20-30t/s decode? 1000ts pp? 盲猜

不看未来的架构
我还是觉得 3090x2 + nvlink 是性价比 最高

[terry]

@imbiplaza-ASUS 动不动就插嘴，这楼主看了都不看张口了。

[terry]

@applejuice 理论和实践都给到了，4张方案纯属AI意淫。

[stxpnet]

等那个博主翻车，这几天我也没空刷抖音

[imbiplaza ASUS]

@stxpnet 含泪写了多卡的历史：
https://lcz.me/topic/969/双显卡叠加-vram-玩本地模型的迷思-两年过来人血泪谈-最终直上32gb-单卡

[Mediali Li]

昨天他的测试成绩并不理想 27b fp8 prefill 2300 decode mtp3 100tks

[applejuice]

@Mediali-Li prefill 2300 还不错啊

[Mediali Li]

[Mediali Li]

@applejuice 2080ti四卡 27b fp8 优化后也有 2200 prefill 输出大概是80tks-100tks