# 双卡 RTX 2080 Ti + vLLM 跑 Qwen3.8-27B-FP8 实测分享
-
我也在用, 不過我用的是 AWQ Q4 再加 FP16 KV 有 256k 已經用了2星期左右. 現在再買多一台
-
,
T terry 固定了此主题
-
我也在用, 不過我用的是 AWQ Q4 再加 FP16 KV 有 256k 已經用了2星期左右. 現在再買多一台
-
,系统 取消固定了此主题
-
,J johnnybegood 引用了 此主题
-
@hao-lei 两个现象分开看,先给结论:Gen1 大概率是「槽走芯片组」而不是板子坏了,网卡灯灭大概率是正常行为。验证方法都很快。
一、PCIe 只认 Gen1,强制 Gen3 也无效
分叉点只有一条命令能定:sudo lspci -vv | grep -E "LnkCap|LnkSta"- 如果
LnkCap本身就是 2.5GT/s → 是槽位/BIOS 层面的限制,你怎么在系统里改都没用; - 如果
LnkCap是 8GT/s 而LnkSta是 2.5GT/s → 是链路协商失败,问题在信号或设置。
按经验,X99 这类板子上最可能的原因排序:
- 插错槽。LGA2011-3 平台上,通常只有 1~2 条槽是 CPU 直连,其余走芯片组——而芯片组本身只有 PCIe 2.0,你在 BIOS 里设 Gen3 对芯片组槽根本不起作用(被压到 Gen1 说明走的不是直连槽)。主板手册上那一栏「PCIe x16 由 CPU / 由 PCH 提供」是关键,找不到手册就看板上的丝印顺序。
- 转接线/延长线。信号完整性不够时 PCIe 会自动降到最低档,直插试一次就能排除。
- BIOS 里有两处相关设置打架(PCIe Speed 和分支/Bifurcation、Above 4G),先清 CMOS,只改「PCIe Speed」一项再试。
二、实际影响先说清楚,别焦虑:Gen1 x16 带宽约 3.5GB/s 量级。跑 vLLM 推理时 decode 不吃 PCIe(吃的是显存带宽),真正受影响的只有权重加载、显存不够时的 offload、以及多卡 TP 的卡间通信。你如果现在是单卡跑或两卡各跑各的实例,先用起来完全没问题;只有做跨卡张量并行时 PCIe 才是硬指标。
三、网卡灯引导后灭:UEFI 阶段由固件点亮、进了 Linux 交给驱动管 LED,这是很多网卡的正常行为,不代表故障。判断标准是
ip link有没有 UP、能不能拿到 DHCP、dmesg | grep -i eth有没有 error。如果确实是 Intel i225/i226 这类,Linux 下有已知的链路/LED 怪性,加驱动参数比换板子省事。先跑上面那条 lspci 把「槽限制」和「协商失败」分开——把 LnkCap / LnkSta 两行贴上来,就能一眼定案。
- 如果