@kos-or 说:

這個可能有幫助 免費的 剛release

NVIDIA Personal AI Router (PAIR)
https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/

This helps you maximize local compute while keeping prompts, files, and agent context private.

这个技术已经成熟了吗？

@Chu-Hao-Lung 说:

說不上高手 小建議
在RTX pro 6000 max Q 那邊安裝個fan control, https://github.com/Rem0o/FanControl.Releases
我之前搞了半天這張卡溫度就是下不來 很焦躁
直到我看到這篇 溫度永遠維持75以下.. 可以安心跑overnight
這是我的溫度曲線編輯(0依據, 純ai)

谢谢

NVIDIA Personal AI Router (PAIR)
https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/

This helps you maximize local compute while keeping prompts, files, and agent context private.

1）「RAM ≥ VRAM」这个判断只在会做 CPU/内存 offload 的路线（llama.cpp mmap、--n-cpu-moe）上成立；纯 GPU 的 vLLM/SGLang 推理，系统内存只要够把权重加载进显存、再加 KV/前缀缓存的余量就行，不需要跟 VRAM 等大。两卡 R9700 一共 64G VRAM，配 64G DDR5 够；如果以后跑 MoE 把专家放内存，再往 96G 加更稳。z890 能 x8/x8 就对了，但记得确认第二个 x16 槽是 CPU 直连、且 BIOS 里 bifurcation 已开。

2）1000W 单带一张 Pro Max-Q（300W）：够。300W GPU + 高端 CPU 约 150–250W + 主板/盘/风扇约 100W，满载约 550–650W，1000W 的 ATX3.1 有约 40% 余量，效率也在最佳区间。Pro Max-Q 不是瞬态怪兽，不用为它上 1200W。

但提醒分配：这 1000W 别拿去带 z690 的 3090 + 3080——两张卡峰值就 350 + 320 = 670W，加 CPU 直接贴 1000W，长期满载不稳。双卡那台按 1200W 以上配，1000W 留给单卡 Pro Max-Q 这台。

@Xiaote 说:

@Thanaots 改过来就对了。Z690 的 PCIe 不是「独立的 2×Gen4 x8」那种配置，关键看槽位接在 CPU 还是芯片组上：

1）CPU 侧固定 16 条 Gen5 lane（一般给主 PCIEX16_1）+ 4 条 Gen4（给 M.2）。这 16 条可以拆成 x8/x8，但前提是主板上第二个 x16 物理槽也直连 CPU lane，且 BIOS 开了 x8/x8 拆分（很多板叫 PCIe Bifurcation）。拆开后两槽各 Gen5 x8，插 Gen4 卡就跑到 Gen4 x8。

2）如果第二个长槽是芯片组引出的，那它最多 Gen4 x4（有些板只给 Gen3 x4），还要和 M.2、网卡一起分 DMI 4.0 x8（约 16GB/s）。这就是你看到的「x16 + x4」而不是「x8 + x8」的来源。

3）所以别找芯片组的「2 × Gen4 x8」——没有这个东西。要的是主板规格表里两个 x16 槽都标 CPU-attached、且支持 x8/x8。翻手册的 expansion slots 表看 PCIEX16_2 的 lane 来源，再进 BIOS 确认有 bifurcation 选项。

4）双 R9700 做 TP，x8/x8 足够（Gen4 x8 ≈ 16GB/s）；若只能 x8 + x4，能跑但 all-reduce 不对称，x4 那槽是瓶颈。上机验证：lspci -vv -s <bdf> 看 LnkCap / LnkSta，空载会降速，要在负载下看当前速率才是真值。

z690 + 64G DDR4 放 2×R9700 本身可行，但先算内存：27B NVFP4 权重约 14G 分两张卡，KV 和长 ctx 另算；64G 偏紧就先扩内存，别先追卡。

我的z890可以x8 + x8。我决定再多买32gb ddr 5，组64GB运行r9700x2，这样就能解放出来z690跑3090+3080了。也可以保证所有的RAM≥vram。
另外，1000w电压应该能稳稳压住Pro max-q吧，这GPU只有300w

1）CPU 侧固定 16 条 Gen5 lane（一般给主 PCIEX16_1）+ 4 条 Gen4（给 M.2）。这 16 条可以拆成 x8/x8，但前提是主板上第二个 x16 物理槽也直连 CPU lane，且 BIOS 开了 x8/x8 拆分（很多板叫 PCIe Bifurcation）。拆开后两槽各 Gen5 x8，插 Gen4 卡就跑到 Gen4 x8。

2）如果第二个长槽是芯片组引出的，那它最多 Gen4 x4（有些板只给 Gen3 x4），还要和 M.2、网卡一起分 DMI 4.0 x8（约 16GB/s）。这就是你看到的「x16 + x4」而不是「x8 + x8」的来源。

3）所以别找芯片组的「2 × Gen4 x8」——没有这个东西。要的是主板规格表里两个 x16 槽都标 CPU-attached、且支持 x8/x8。翻手册的 expansion slots 表看 PCIEX16_2 的 lane 来源，再进 BIOS 确认有 bifurcation 选项。

4）双 R9700 做 TP，x8/x8 足够（Gen4 x8 ≈ 16GB/s）；若只能 x8 + x4，能跑但 all-reduce 不对称，x4 那槽是瓶颈。上机验证：lspci -vv -s <bdf> 看 LnkCap / LnkSta，空载会降速，要在负载下看当前速率才是真值。

z690 + 64G DDR4 放 2×R9700 本身可行，但先算内存：27B NVFP4 权重约 14G 分两张卡，KV 和长 ctx 另算；64G 偏紧就先扩内存，别先追卡。

@Xiaote 说:

@Thanaots 你这套的核心约束不是显卡，是每台的内存、电源、机箱和 NAS。方向对，但有两处要先修。

1）2 号塔式写的是 z890 加 64G DDR4——z890 是 LGA1851，只吃 DDR5，DDR4 插不进去。要么换 DDR5 板，要么把 2×R9700 和现有 128G DDR4 ECC 一起放回 WRX80（你现在唯一没出问题的平台）。双 R9700 没有 NVLink / P2P，TP 全走 PCIe，WRX80 的 lane 多，反而最适合长期扩卡。

2）小机箱加 Pro 6000 加 128G 加 1000W 做视频产出：Pro 6000 Max-Q 单卡约 300W，加 CPU 和整机，1000W 长时间满载偏紧。要么上 1200W 以上的 ATX3.1，要么单独限功耗。产出机最怕的是跑到一半掉电重启，不是慢一点。

3）NAS 独立：20TB 盘单独做低功耗 NAS（2.5G / 万兆网），产出机用 SMB / NFS 挂载。别让推理机直连盘阵，尤其 2×R9700 那台；网卡尽量走 CPU 直连槽，别挂 PCH 跟显卡抢 DMI。

4）给家人用的 Windows agent（3080 加 3090Ti）：显存不对等，TP 会被 3080 拖平。要跑 27B 级别就用单张 3090Ti，3080 单独带小模型或画图；要同卡 TP 就再收一张 3090Ti。

一句话：单卡大显存优先摆，平台看 lane 和内存，NAS 独立，别追求每台全能。

你说得对，我自己写错了。32gb是ddr5，64GB是ddr 4。那就是p
r9700x2放z690+64gb，3090+3080放z890+ddr 5。
z690主板支持的pcie卡槽有没有pcie 4 8.0x2，还是一个pcie 4 16.0+ pcie 3 8.0? 你看看。

1）2 号塔式写的是 z890 加 64G DDR4——z890 是 LGA1851，只吃 DDR5，DDR4 插不进去。要么换 DDR5 板，要么把 2×R9700 和现有 128G DDR4 ECC 一起放回 WRX80（你现在唯一没出问题的平台）。双 R9700 没有 NVLink / P2P，TP 全走 PCIe，WRX80 的 lane 多，反而最适合长期扩卡。

2）小机箱加 Pro 6000 加 128G 加 1000W 做视频产出：Pro 6000 Max-Q 单卡约 300W，加 CPU 和整机，1000W 长时间满载偏紧。要么上 1200W 以上的 ATX3.1，要么单独限功耗。产出机最怕的是跑到一半掉电重启，不是慢一点。

3）NAS 独立：20TB 盘单独做低功耗 NAS（2.5G / 万兆网），产出机用 SMB / NFS 挂载。别让推理机直连盘阵，尤其 2×R9700 那台；网卡尽量走 CPU 直连槽，别挂 PCH 跟显卡抢 DMI。

4）给家人用的 Windows agent（3080 加 3090Ti）：显存不对等，TP 会被 3080 拖平。要跑 27B 级别就用单张 3090Ti，3080 单独带小模型或画图；要同卡 TP 就再收一张 3090Ti。

一句话：单卡大显存优先摆，平台看 lane 和内存，NAS 独立，别追求每台全能。