晚上的一次失败抢购，改变了我的想法，大家帮我算算账？

[懒人烘培]

我也是本地模型+线上API相结合
也看到有些大神省钱的方式就用 PCIE 16x +4X，性能有影响，不过可以接受的范围。

[张光璞]

@Tony-Wang 说:

释怀吧. 我们不能总是执着于工具的精进, 其实够用, 能干活就行了.
数字, 性能那些, 永远追求不完的.

复议

[terry]

1，你为什么不用epyc洋垃圾，CPU的重要性以后会越来越重要。
2，2台设备也是选择，围绕第二个设备打造一个64G内存，128G的洋垃圾内存都可以。
3，老王去找个妹子深度交流沟通人生哲理，在哆嗦之前他都觉得值得，哆嗦完了一般都会索然无味，教育妹子早日回归正常生活。其实大可不必，放过妹子，放过自己。生活总需要这么一哆嗦。

[Tzung-Ru Tsai]

主版支援x8+x8的話，可以考慮用PCIE轉8654介面卡走外接 + 拆分的顯卡塢形式，外接後的顯卡供電方法很多，看你的接受程度和口袋深度。

[HighNie]

我就是3960X+tr40的板子3200收的 内存DDR4 16g*8条 总共128g 目前插了一张7900xtx 目前跑单卡 跑Strata的 qwen flash next q3_s 还算流畅 考虑后期在加2张7900xtx 2张跑llm 1张跑comfyui 目前还没有实现 等我跑了告诉你

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2295-363-1（系统自动发放，显示稍有延迟）

[johnnybegood]

@HighNie 单卡 7900xtx 跑strata 什么速度呢？

[tutu]

我刚刚入手了2个3090ti水神 +3槽nvlink，一共花了18000，主板用的技嘉z490 aorus pro ax 支持pcie x8 +x8 价格还可以，之前用它带2080ti 22g nvlink，听站长整天bb sglang多好，我也就搞了一个，个人觉得nvlink价值比换主板高，尤其是现在，只要有nvlink，哪怕x1的接口影响都不大

[xiongjie gao]

@tutu 说:

我刚刚入手了2个3090ti水神 +3槽nvlink

3槽nvlink只听过没见过，上个照片让大伙掌掌眼。

[terry]

@xiongjie-gao 这玩意据说和显卡一样贵

[applejuice]

@johnnybegood 为什么不搞华南金牌epyc

[HighNie]

@johnnybegood
128K上下文 我让harness的优化的 目前70~80K/S 把

[HighNie]

@johnnybegood

目前只插了一张卡 我用的机架 可以插3个*16 的pcie满速的 板子是华擎tr40taichi 我是偶尔玩哈游戏 这个U够用 4.2的频率 玩玩吃鸡还是可以的

[johnnybegood]

@HighNie 我就是无法接受这种架子，所以没弄。。。

[johnnybegood]

@applejuice 不是比 trx40 更贵么

[applejuice]

@johnnybegood 4000元 但是 8通道 满4x pcie4x16 又是服务器级别

一起来玩玩呗
epyc+milan

买个工作站机箱
插4张卡

[Nero丶畅畅]

确实这样，之前我也总是天天考虑怎么能买到pcie拆分x8的板子，还想着可以找到可以用d4内存的，现在把另一个显卡用洋垃圾组了一套，很舒适，工作效率也高了

[yu]

8x+8x d4的板子選擇不少啊 z490, z590, x570都有，甚至B550 taichi也有，果然華擎出妖板。
淘寶上要找也不是很難z490 600元就有，大概有很多網吧退下來的吧

[johnnybegood]

@Nero丶畅畅 说:

工作效率

工作效率 为什么会变高

[johnnybegood]

@yu 全新买一套只要有钱就行， 现在主要是考虑最大化复用已经有的硬件