跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
Name ErrorN

Name Error

@Name Error
德高望重 劳动模范
取消关注 关注
关于
帖子
63
主题
2
分享
0
群组
2
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    🎯 目标:4 卡 R9700。记录从零件选型、采购、组装到系统调试的全过程。

    持续更新整理中,最后更新:202610120114

    ⚖️ 选型回顾

    方案 CPU 主板 合计 核心取舍
    A EPYC 9B4 96C/192T / ¥8,000 MZ33-AR1-rev-3x / ¥5,500 ¥13,500 主板便宜,可插更多内存,预算向 CPU 倾斜
    B 7945WX / ¥3,000 WRX90E-SAGE SE / ¥9,343 ¥12,343 平台优先,扩展和外观更好

    👍 已确定配置

    零件 型号 数量 单价 合计 状态
    🧩 主板 华硕 Pro WS WRX90E-SAGE SE 1 ¥9,343 ¥9,343 👍 已采购
    🧠 CPU AMD Ryzen Threadripper PRO 7945WX 1 ¥1,800 ¥1,800 👍 已采购
    🧮 内存 SK DDR5 16G 1Rx8 4800B REG ECC RDIMM 1 ¥3,111 ¥3,111 👍 已采购
    🎮 显卡 瀚铠 VASTARMOR Radeon AI PRO R9700 32G 2 ¥10,618 ¥21,236 👍 已采购
    💾 固态 Intel SSD DC P3608 4TB 1 ¥3,000 ¥3,000 👍 库存
    ❄️ CPU 水冷头 ICE-TR5 IWB-CA-TR5-NK 1 ¥290 ¥290 👍 已采购
    🖥️ 机箱 迎广 InWin DUBILI 1 ¥1,699 ¥1,699 👍 已采购
    ⚡ 电源 长城 黑匣子 3200W(GW-EPS3200BL 94+) 1 ¥2,850 ¥2,850 👍 已采购
    合计 ¥43,329

    💡 选择理由

    • 🔥 【被坑了】发现淘宝折扣后,WRX90E-SAGE SE 降到 ¥7,900,直接入手。
    • 🧩 主板外观好看,PCIe 5.0 插槽多,为未来的多卡扩展预留空间。
    • 🧩 后续要运行moe模型,PCIe 5.0 速度更快。
    • 🧠 CPU 使用 7945WX,正常二手价格 ¥3,000。

    📒 PS:

    • 淘宝消费券7900买到WRX90E,目前价格回归12000。闲鱼二手最低6900。
    • 淘宝二手 WRX90E 已经退货,重新从亚马逊采购了。
    • 7945WX 二手价格参差不齐,1800是目前能买到的最低价格了。
    • 从抽屉找到一个P3608 4TB,以前挖坑用的,算3000吧。
    • 如果只需要 PCIE 通道,7965WX就够用了,如果需要较大内存带宽则应该至少7965WX。

    🐛 BUG:

    • 7945WX 仅 2 个 CCD,8 通道读取受 CCD-IOD 互联限制,约 100 GB/s;7965WX、7975WX 等 4+ CCD 型号可达约 230+ GB/s。说明该平台跑满 8 通道带宽不只靠通道数,CCD 数量同样是关键瓶颈。【资料】

  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    💦 水贴

    买了三张板,一张废板,一张二手,一张新板。
    不在家里,废板得让老婆帮忙装机练手。
    是的,这些都得一个小白来干。

    IMG_3059.JPG


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @kos-or 我认为内存条价格会下降。meta vistara 已经在生产环境应用了cxl技术。

    方案 类型 关键规格 可行性/备注 链接
    Viking CMM-NVDIMM DDR4 成品 CXL AIC CXL 2.0 Type-3、PCIe Gen5、FHHL、最多 4×DDR4 RDIMM/NVDIMM、2666/2933 MT/s 可直接询价采购;偏军工/航天渠道 产品页 · PDF
    Longsys / Mnemonic FORESEE CXL AIC 成品适配卡 8×DDR4 RDIMM、最高 512GB、PCIe 5.0 x16(MCIO)、理论 128GB/s B2B 方案;需确认量产状态与主机兼容性 介绍
    元脑(浪潮信息)CXL 内存跨代扩展方案 服务器整机方案 PCIe 5.0 x16、CXL 2.0、单卡 4×DDR4、单机最多 16 条、额外 512GB 已在国内大型互联网客户规模应用;需确认扩展卡是否单卖 官方介绍
    Marvell Structera X 2404 主控芯片 4 通道 DDR4、3DPC、最多 12 DIMM、>4TB、CXL 2.0/PCIe 5.0 x16 芯片现货紧缺,需 RFQ;适合大容量扩展卡 CXL 产品页
    Montage M88MX5891/5851 主控芯片 PCIe 5.0 x8、CXL 1.1/2.0 Type-3、单 DDR4 通道 2DPC、支持 DDR4/DDR5 RDIMM 国内可询价;单卡 2 条 DDR4,最贴近低成本复用 产品页
    Microchip SMC 2000 / PM8702 主控芯片 + EVB DDR4 EVB:2×72-bit 通道、每通道 1 DIMM、CXL 1.1/2.0、PCIe 5.0 有官方参考设计、原理图与布局评审,适合先验证再自研 产品页 · PDF
    Astera Labs Leo X / Leo 2 主控芯片 PCIe 6 / CXL 3.x、四路 DDR4/DDR5 面向大客户;DDR4 RDIMM 版本需向原厂确认 产品页
    Meta Vistara(参考案例) 生产环境案例 CXL 2.0 Type-3、每 ASIC 2×72-bit DDR4、4×32GB DDR4-2400 证明 DDR4 RDIMM 经 CXL 可用于新一代服务器 论文 PDF

    📣 我甚至还有ddr3服务器,插满512g内存,速度虽然慢,但是便宜啊。
    📣 内存条存量巨大。cxl方案也在生产中证实了可行性。
    📣 决不妥协高价采购!


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @applejuice 我联系了 Bykski,他们可以定制 r9700 水冷头,全网都没有成品水冷头可以买,7900xtx有成品水冷头。


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    漂亮的散热

    https://www.comino.com/products/waterblock-for-asus-pro-ws-wrx90e-sage-se
    https://www.reddit.com/r/watercooling/comments/1p127sm/custom_fullcover_block_set_for_the_asus_pro_ws/?tl=zh-hans

    image.jpeg

    
    image.jpeg

    
    image.jpeg


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @Jamison-Chen

    其實若不考慮跑 MoE 模型,我認為哪張主機板 PCIe 插槽多,就買哪張。

    我是考量到日後要擴充、跑 MoE 模型,也打算自行研發記憶體擴充板,所以主機板會想一次買到位,而且一定要有 PCIe 5.0 x16。

    也可以參考這裡:
    https://www.grando.ai

    以下都是我評估過的硬體:
    ASRock Rack GENOAD8X-2T/BCM
    Supermicro SYS-821GE-TNHR、Dell XE9680
    Supermicro X13DEG-O-CPU
    Supermicro X13DEI
    ASUS Pro WS WRX90E-SAGE SE
    Gigabyte MZ73-LM0
    ASUS Pro WS WRX80E-SAGE SE

    若不考慮日後跑 MoE 模型,我會建議直接買:
    https://www.huananzhi.com


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @CHIA-AN-YANG 需求是穩定性跟擴充性,這樣才會有更多選擇跟實驗方向,而且要能同時測試 NVIDIA 和 AMD 顯卡。PCIe 5.0 是硬性前提。


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @kos-or 記憶體頻寬太低了,而且 DGX Spark 目前一台要 35,000 人民幣,我是不太看好。

    其實我確實有打算這樣買:

    • 4 張 7900 XTX、2 張 R9700,總共 160 GB
    • 2 張 7900 XTX、4 張 R9700,總共 176 GB

    7900 XTX 只要 5,500 人民幣就能入手,還是很划算。

    等記憶體降到正常價格,我再加記憶體;不然就一路堆顯示卡,先不考慮電費。

    參考資料:
    https://modelrigs.com/hardware


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @kos-or @applejuice @thanaots 内存价格不是建立在供需关系上的。

    我在寻找或自行生产某种转接卡,把多条回收的 DDR4 DIMM 接到 DDR5 时代主机上。

    论文案例:
    https://aisystemcodesign.github.io/papers/isca26/vistara_camera_ready.pdf
    https://patents.google.com/patent/WO2018141174A1/en

    我已经联系深圳朋友验证方案可行性。


  • 【直播】4卡R9700从采购到调试
    Name ErrorN Name Error
    AI硬件 r9700 多卡部署

    @terry 我绝对是 华南金牌 主板的粉丝,家里至还放了两张挖坑时候的华南 x99。

    怎么说呢,目前这个方案核心考量是 pcie5.0。
    考虑到当前硬件市场的不确定性,我想留足测试的空间。

    目前还在准备采购 v100,3090等其他类型的显卡,尝试混插。

    这张 WRX90E 主板可以支持 6 个 pcie5.0x16 通信,绝对是最佳选择。

    既能满足测试需要,也能满足后期的扩展需求。
    有测试成果肯定发出来。

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组