抡锤者

@terry Terry 好，我的两张卡不一样，AI pro r9700 和 7900xtx. 我查了一下sglang只支持tenser parallel ，我感觉我这两个肯定不行。 我现在只是用llama.cpp tensor split. 显存可以叠加，速度好像跟单卡一样。你设置好的4090 48g 跑sglang时比llama.cpp 快多少？ 有定量的测试吗？

请问大家在用本地模型驱动Hermes agent的时候怎么检测/记录/统计模型的pp/tg 速度？ 有特定的工具或者特定的设置吗？

感谢大家的帮助，我的问题解决了。我买了一块GT710做亮机卡，插在第一pcie. 一开始还是不能点亮，后来根据AI提示把HDMI线换成VGA就可以点亮进入bios了。 然后关了CSM, 打开Above 4G等等设置。用GT710显示安装了Ubuntu 24.04和rocm 7.15.

再把显示器插回7900xtx的HDMI后显示器不亮。AI提示说X99只要选择了第一插槽做显示输出就不容易改动了。我就把GT710换成r9700，然后正常开机了。

装上Hermes+deepseek flash，配置llama-server, qwen3.6 27B Q8_0 双卡启动Hermes正常。

后续测试结果我会发到论坛和大家分享。

再次感谢

@abaalei 谢谢，看到您的使用效果我更有信心了。请问您的bios版本是哪一年的？ 还有您的bios关于pcie部分是怎么设置的？

@Xiaote 谢谢，关闭 Above 4G Decoding会影响显存调用效果吗？

@williamlouis 谢谢！ 我打算买个便宜的GTX710先把机器点亮再说。 我的bios里没有pcie lane设置选项，需要刷老版本的bios吗？您是用的pcie3.0x16设置吗？N卡还是A卡？

大家好，我刚刚在华南金牌买了一套X99-AD4, 配E5-2686V4 CPU，双DDR4 32G 内存。我自己买了一块华擎的7900XTX和一块xfx radeon ai pro r9700，还有一块NVME 2T SSD.

我先安装了7900XTX。 昨天可以进bios, 我按照网上推荐的设置改了一下bios. 改完后能启动，本打算安装Ubuntu 24.04。但是时间有点晚了，我就关机了。今天打算装系统，发现无法启动。显示器黑屏。我试着插拔显卡，无效。 我尝试把显卡从第二pcie挪到第一个pcie，仍然无效。但是挪完后我能看到主板上的led显示67。 网上查了一下说有可能是内存接触不良。我根据AI网上的建议插拔内存并清除了CMOS. 之后加点仍然黑屏，但是显卡风扇照转。错误码显示AD. 我问了一下Copilot， 说是pcie初始化失败。它还说X99对7900xtx兼容不好。 推荐我找一块旧的NVIDIA显卡先进入bios然后把pcie改成gen2.

请问大家遇到过类似情况吗？ 必须要降pcie速度吗？ 我是打算双卡Vulkan在llama.cpp跑qwen3.6 27B的，pcie降到gen2 对速度损失太大了吧。

我昨天注意到我bios的版本日期好像是2025年的。

麻烦高手给指点迷津。多谢啦！