家庭装备大公开，顺便汇报一下计划和配置

[Xiaote]

@Thanaots 两条都回一下。

1）「RAM ≥ VRAM」这个判断只在会做 CPU/内存 offload 的路线（llama.cpp mmap、--n-cpu-moe）上成立；纯 GPU 的 vLLM/SGLang 推理，系统内存只要够把权重加载进显存、再加 KV/前缀缓存的余量就行，不需要跟 VRAM 等大。两卡 R9700 一共 64G VRAM，配 64G DDR5 够；如果以后跑 MoE 把专家放内存，再往 96G 加更稳。z890 能 x8/x8 就对了，但记得确认第二个 x16 槽是 CPU 直连、且 BIOS 里 bifurcation 已开。

2）1000W 单带一张 Pro Max-Q（300W）：够。300W GPU + 高端 CPU 约 150–250W + 主板/盘/风扇约 100W，满载约 550–650W，1000W 的 ATX3.1 有约 40% 余量，效率也在最佳区间。Pro Max-Q 不是瞬态怪兽，不用为它上 1200W。

但提醒分配：这 1000W 别拿去带 z690 的 3090 + 3080——两张卡峰值就 350 + 320 = 670W，加 CPU 直接贴 1000W，长期满载不稳。双卡那台按 1200W 以上配，1000W 留给单卡 Pro Max-Q 这台。

[kos or]

這個可能有幫助 免費的 剛release

NVIDIA Personal AI Router (PAIR)
https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/

This helps you maximize local compute while keeping prompts, files, and agent context private.

[Chu Hao-Lung]

說不上高手 小建議
在RTX pro 6000 max Q 那邊安裝個fan control, https://github.com/Rem0o/FanControl.Releases
我之前搞了半天這張卡溫度就是下不來 很焦躁
直到我看到這篇 溫度永遠維持75以下.. 可以安心跑overnight
這是我的溫度曲線編輯(0依據, 純ai)

[Thanaots]

@Chu-Hao-Lung 说:

說不上高手 小建議
在RTX pro 6000 max Q 那邊安裝個fan control, https://github.com/Rem0o/FanControl.Releases
我之前搞了半天這張卡溫度就是下不來 很焦躁
直到我看到這篇 溫度永遠維持75以下.. 可以安心跑overnight
這是我的溫度曲線編輯(0依據, 純ai)

谢谢

[Thanaots]

@kos-or 说:

這個可能有幫助 免費的 剛release

NVIDIA Personal AI Router (PAIR)
https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/

This helps you maximize local compute while keeping prompts, files, and agent context private.

这个技术已经成熟了吗？

[terry]

怎么没后续了？多拍点展示到装备秀专区。

[fcme]

硬件多了维护起来后期会很头疼，建议把资源集中到一台高端机器里边，然后装PVE方便数据管理和虚拟机管理。

[Magic629]

@fcme

我要感谢下你的那个方案，我用着很不错！

[Magic629]

@fcme 限制功耗到250W但是显存温度还是能到92度，300W的功耗显存温度也是92度。这个降频没有改变显存温度，不知道还有好的解决办法吗。看着心里还是不舒服

[fcme]

@Magic629
你这个是我哪个帖子啊，我怎么没啥印象了。

[fcme]

@Magic629
跑这种dense模型没办法，Moe的显存压力小些，温度就低点。

[kop wang]

nv这套300瓦的散热模组，只要机箱能够有正常的进风，基本都不会太影响散热性能。涡轮卡的热承受能力都是按照一个贴一个的极限工况设计的。

[terry]

移动到新的分区，美化了一下格式，复活了。

[Thanaots]

@terry 说:

移动到新的分区，美化了一下格式，复活了。

谢谢老特。

[Thanaots]

倒了霉了，现在wrx80e的主板应该是挂了。尝试一下256GB+Pro 6000+2xr9700。第一次进了系统，然后突然关机。
第二次进了bios，设置一下，又关机了。
再想进系统，进不去了。
现在找ASUS回厂测试返修。
新的图片暂时上传不了了。

[terry]

@Thanaots 不差这点时间，弄好了你这几个装备都跑一遍什么strata，ninfer，Qweb 27b 、flash模型对比下。很有看点。想做自己的视频就开频道，我给你提升下等级，可以把频道放到签名里推广。我也可以把你的频道放到我的油管推荐频道里。如果你要做国内，我就没渠道了，我不做国内的。

[Thanaots]

@terry 说:

@Thanaots 不差这点时间，弄好了你这几个装备都跑一遍什么strata，ninfer，Qweb 27b 、flash模型对比下。很有看点。想做自己的视频就开频道，我给你提升下等级，可以把频道放到签名里推广。我也可以把你的频道放到我的油管推荐频道里。如果你要做国内，我就没渠道了，我不做国内的。

感谢老特，我整好了放上来。
直接overnight 发货送修。看看过一周，有什么什么好休息吧。