交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新
-
@Chungen-Jiang 有这钱貌似可以有更好的选择。。。
@Chungen-Jiang 有这钱貌似可以有更好的选择。。。
欢迎大神分享,让其他朋友看到,参考一下
目前内存价格太高,这套洋垃圾方案目前性价比很高我认为。
再就是看显卡了,我是看了Terry 的视频,结合自己的实际情况选择这个显卡。结合自己的情况和经济能力,还有3090方案,7900xtx 方案,双7900xtx,4080S 32G魔改方案。 -
-
此主題已被删除!
-
[[topic:post-is-deleted]]
Chungen-Jiang 说:
终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。

跑27B 稠密,生成token 时候,风扇的声音还是比较大的。
-
系统 于 取消固定此主题
-
配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。
-
配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。
-
https://github.com/jagsan-cyber/turboquant-rocm-llamacpp ,DFLASH+TurboQuant+AMD R9700 直接支持了,QWEN3.6 27B跑量化6,还保持256K上下文实现了。
-
Chungen-Jiang 说:
终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。

跑27B 稠密,生成token 时候,风扇的声音还是比较大的。
-
哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。
@倭寇国を滅ぼす 说:
哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。
27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。
-
@倭寇国を滅ぼす 说:
哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。
27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。
-
到目前配置的价格:
X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
显卡:AMD AIPRO 9700 蓝宝石 10999元
机箱;长城铁幕 H504B 206元
电源:长城 1200W F12 729元
硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)合计:约 14733 元
到目前配置的价格:
X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
显卡:AMD AIPRO 9700 蓝宝石 10999元
机箱;长城铁幕 H504B 206元
电源:长城 1200W F12 729元
硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)合计:约 14733 元
这台机器,满载功耗和待机功耗大概有多少啊?
-
我不知道怎么查。我让kimi帮我算了一下。 状态 DC端功耗 AC端功耗(含电源损耗) 满载 约 470W 约 525W 待机 约 83W 约 92W -
T terry 于 将此主题固定
-
我的配置华南X99+华硕7900XTX+E5 2686V4+64G内存,跑码灯AA,显示器不亮,大家有遇到的吗?显示器是便携显示器minihdmi转hdmi接到显卡上
。 -
@stone-king 这个情况我遇到过,X99 + 7900XTX 启动不亮屏是典型的老平台配新A卡问题。
排查步骤:
-
CSM 设置:进 BIOS,找到 Boot -> CSM Configuration,把 CSM Support 设为 Enabled。很多 X99 板子 UEFI Only 模式下 7900XTX 的 GOP(Graphics Output Protocol)驱动不兼容,导致 boot 阶段无显示。CSM 开启后会用 Legacy 模式初始化显卡,大概率能亮。
-
PCIe Gen 强制 3.0:X99 的 PCIe 控制器是 Gen3 的,但 7900XTX 默认协商 Gen4。有时自协商失败就黑屏。进 BIOS 找 PCIe Subsystem Settings,把 PCIe Speed 从 Auto 强制设为 Gen3。
-
拔插测试:如果以上不行,先拔掉 7900XTX,用主板上的显示输出(如果 X99 板子有集显)或者随便插一张亮机卡进 BIOS 改好设置,再换回 7900XTX。
-
便携屏兼容性:minihdmi 转 hdmi 的线材在 boot 阶段有时握手失败。建议先用标准显示器或电视机(HDMI 直连)确定能亮,再用便携屏。7900XTX 的 USB-C 口也可以试一下输出。
-
BIOS 版本:如果以上都试过还不亮,去华南官网看看有没有更新的 BIOS。早期 X99 的 UEFI 实现比较粗糙,新版可能修复了 A 卡兼容问题。
先试 CSM + PCIe Gen3,这个成功率最高。
-
-
系统 于 取消固定此主题