小小秀一下我的AI RIG

[Fred]

再补，llama.cpp单卡命令行。

和分卡命令行：

vllm命令行:

[Fred]

@terry 说:

@Fred 抄作业的材料凑足了，又能水一集。

行。这些帖子特哥您看着随便用。

[pilipala]

@Fred 老哥的4090是狗东哪家买的，看看是不是一家，我的万一翻车了就买你那家的，还有R9700是1万1入的么？

[张老师]

@Fred 说:

不要买2个同样型号的狗东999显卡坞

这个有什么说法吗？插到同一台机器上会Bug？

[Fred]

@pilipala 说:

@Fred 老哥的4090是狗东哪家买的，看看是不是一家，我的万一翻车了就买你那家的，还有R9700是1万1入的么？

我在一家叫做天成智算买的，不过还是推荐自营的那两家。我这个的发货过程有点波折，他们一开始给我填了一个错误的单号，第二天就显示我已经收货了，实际上我连毛都没看到，货也显示被发到了浙江某个地址，跟我完全不在一个省。
后来他们重新填了单号。货到之后我用Linux的gpu-burn工具压测一小时没问题，这几天用下来感觉还是不错，我就给他们确认收货了。

[Fred]

@张老师 说:

@Fred 说:

不要买2个同样型号的狗东999显卡坞

这个有什么说法吗？插到同一台机器上会Bug？

第二个不识别，用tbctl list命令只能看见第一个。后来我反复测试，发现他们家显卡坞的每个设备UUID都相同。如果2个雷电设备UUID相同，Linux的tb驱动在授权（enroll）雷电设备的时候，是以UUID来区分设备的，结果是第二个没法用uuid授权了。因此我的第二个显卡坞不识别，我也没找到修改uuid的方法（据说是烧录在显卡坞固件的），最后就不折腾了，把第二个退了。

[张老师]

@Fred 说:

第二个不识别，用tbctl list命令只能看见第一个。后来我反复测试，发现他们家显卡坞的每个设备UUID都相同。如果2个雷电设备UUID相同，Linux的tb驱动在授权（enroll）雷电设备的时候，是以UUID来区分设备的，结果是第二个没法用uuid授权了。因此我的第二个显卡坞不识别，我也没找到修改uuid的方法（据说是烧录在显卡坞固件的），最后就不折腾了，把第二个退了。

感谢大神回复，明白了

[极品青蛙]

@fred 我零刻gti15用的零刻600w显卡坞，就2个8pin，请教个接7900xtx这3个8pin的方案，豆包和卖家说价买个1分2的线插第二个8pin口，不要求性能发挥满，只要不烧卡就行，感谢！

[terry]

@极品青蛙 不行，很勉强，系统限制303w，这是linux限制，单8pin就150w，长期满载肯定不行，不用尝试，我的显卡和你一样。必须换显卡坞。显卡用那个什么AI Pro R9700就能扛住。不过你这个显卡坞是一体的，换成其他的性能估计会打折。你看下机器是否带oculink，带的话卖一个oclink显卡坞，或者买个雷电3的。

[Fred]

@极品青蛙 说:

@fred 我零刻gti15用的零刻600w显卡坞，就2个8pin，请教个接7900xtx这3个8pin的方案，豆包和卖家说价买个1分2的线插第二个8pin口，不要求性能发挥满，只要不烧卡就行，感谢！

还是稳妥起见，显卡坞有3个8P才保险。你看这些个帖子吧，很多人反对这样做：https://forums.tomshardware.com/threads/can-i-use-a-3-x-8-pin-7900-xtx-with-only-2-x-8-pins-connected-to-it.3809019/
https://linustechtips.com/topic/1475161-is-rx-7900-xtx-able-to-work-from-2-pcie-cables-instead-of-3/

[Hank Wang]

显卡坞有没有可以支持5090这样显卡的？不知道有没有这样用过。

[terry]

@Hank-Wang 支持随便一个显卡坞都支持，性能损失太大。雷电5，oculink都完全跑不满性能的一半。

[pilipala]

@Fred @Fred 我的大玩具也装好了，哈哈哈～～

[kos or]

UGreen 顯卡屋真是漂亮 有點像是太空梭發射站一樣 垂直矗立; 我也在考慮要買一個UPS 用電上比較安全 保護AI機台

[iocat]

6w可以搞两个dgx spark，感觉也不错