跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. DDR3 1866 32GB×4 不兼容,准备退货。

DDR3 1866 32GB×4 不兼容,准备退货。

已定时 已固定 已锁定 已移动 AI硬件
14 帖子 8 发布者 178 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Hackner WeinlandH
    Hackner WeinlandH
    Hackner Weinland
    编写于 最后由 编辑
    #2

    这么屌?希望更多大佬能测试,本来刚想换这个方案的,看看要等一等了

    1 条回复 最后回复
    0
    • imbiplaza ASUSI
      imbiplaza ASUSI
      imbiplaza ASUS
      谪仙人
      编写于 最后由 编辑
      #3

      谢谢你帮忙踩坑。。。
      洋垃圾佬总代理也提早告诉我这一点,所以我才不着急入手x99tf
      现在想着一炮过解决烦恼,换成epyc

      1 条回复 最后回复
      0
      • leo liL
        leo liL
        leo li
        编写于 最后由 编辑
        #4

        是不是ddr3内存要配v3的cpu才行?

        terryT K 2 条回复 最后回复
        1
        • leo liL leo li

          是不是ddr3内存要配v3的cpu才行?

          terryT
          terryT
          terry
          易有太极
          编写于 最后由 编辑
          #5

          @leo-li 就是这么简单的道理.....商家也倒霉。

          油管:https://www.youtube.com/@抡锤者

          1 条回复 最后回复
          0
          • leo liL leo li

            是不是ddr3内存要配v3的cpu才行?

            K
            K
            kenshin
            体面乡绅 硕果累累
            编写于 最后由 编辑
            #6

            @leo-li 这个 E52696V4 加上特制主板是可以用 DDR3 的,但是因为我用的是 128G。32G 的单条只有 4R×4。2R×4 是没有兼容问题。所以你看到特别标出来 2R×4 的 32G DDR 内存。价格特别贵。比 4R×4 的贵了 300 块。

            1 条回复 最后回复
            0
            • R
              R
              rori
              编写于 最后由 编辑
              #7

              根據華南金牌官網顯示:
              *CPU 支援DDR3: E5-2629v3 / 2649v3 / 2669v3 / 2673v3 / 2676v3 / 2678v3 / 2696v3

              https://huananzhi.tw/catalog/motherboard/x99-tf/

              1 条回复 最后回复
              0
              • Hackner WeinlandH
                Hackner WeinlandH
                Hackner Weinland
                编写于 最后由 编辑
                #8

                所以最后的结论是什么?如果换成2696v3是否还有同样的问题

                K 1 条回复 最后回复
                0
                • ka kaK
                  ka kaK
                  ka ka
                  编写于 最后由 ka ka 编辑
                  #9

                  我买的华南金牌epyc h12d-8d 加ddr4 4r 32g*8,内存还没到,不知道兼容4r不

                  1 条回复 最后回复
                  0
                  • Hackner WeinlandH Hackner Weinland

                    所以最后的结论是什么?如果换成2696v3是否还有同样的问题

                    K
                    K
                    kenshin
                    体面乡绅 硕果累累
                    编写于 最后由 编辑
                    #10

                    image.jpeg
                    插回DDR4 16gx4后,再调优。跑了个rag系统中医辨证。pp从之前1700+飙到2158。结果喜人。

                    1 条回复 最后回复
                    0
                    • K
                      K
                      kenshin
                      体面乡绅 硕果累累
                      编写于 最后由 编辑
                      #11

                      让Hermes把今天做过的DDR3跑strata调优测试,对比DDR4跑strata。总结如下:
                      DDR3 128G vs DDR4 64G 跑 Strata

                      X99-TF / E5-2696v4 22C44T / RX 7900 XTX,PCIe 3.0 x16;Strata v0.2.2 (wt-0220),SC117 IQ3_S pack
                      (qwen4exp,48 层,24576 专家,PLE 表 320,001,536 行)。同一配置,只差 --ple-io。

                      结论

                      带宽 > 容量。DDR4 快 15-68%,代价是 PLE 表退回 NVMe、内存余量从 61 GiB 降到 25 GiB。

                      DDR3-1866 4×32G DDR4-2400 4×16G
                      可见容量 125 GiB 62 GiB
                      read / 理论 50.4 / 59.7 GB/s(84%) 65.8 / 76.8 GB/s(86%)
                      triad / copy 35.2-36.3 / 30.5-31.8 47.2-47.6 / 40.3-41.4
                      prefill @15.5K 1284 tok/s 2158 tok/s(+68%)
                      decode @2K 53.9-63.0 tok/s 67.4-79.6 tok/s
                      decode @15.5K 44K 口径 55.4-58.1 72.4 tok/s
                      命中率 92.5-94.2% 91.4-94.5%
                      PLE 表 内存 mlock 26.8 GiB NVMe O_DIRECT
                      锁页合计 61.7-61.9 GiB 37.24 GiB
                      专家 NVMe 读 0 blobs 0 blobs

                      硬件

                      DDR3 4×32G DDR3-1866 RECC M386B4G70DM0-CMA3 Rank4,四通道满插
                      DDR4 4×16G DDR4-2400 ECC(EDAC: Ha#0_Chan#0/1 + Ha#1_Chan#0/1 = 2 HA × 2 通道,每通道 1 条)

                      带宽实测(3×1 GiB STREAM,-O3 -march=native -fopenmp,三次最好值 GB/s):

                      线程 1 4 11 22 32 44
                      DDR4 read 7.1 27.3 63.6 58.7-61.0 64.7-65.8 51.0-52.8
                      DDR3 read 8.3 — — 48.1 — 50.4

                      DDR4 要 32 线程打满 read、44 线程反降;--pool-workers 20 维持不动。

                      配置(两套共用)

                      --pack /mnt/nvme/strata/packs/sc117-iq3_s
                      --expert-cache auto --expert-profile data/expert-profile.bin (24576 pairs)
                      --resident-budget-gib 36 --kv int8 --kv-resident 32768
                      --max-context 196608 --prefill 16384
                      --pcie-frac 0(PCIe 仅 13 GB/s) --pool-workers 20
                      --adapt-every 2 --adapt-async 1 --spec 4 --spec-min-p 0.5
                      --vram-reserve-mib 512(DDR3)→ 576(DDR4)
                      env STRATA_HIPBLASLT_TUNING=gfx1100-hipblaslt-100401-full.txt(48 行,fallbacks=0)

                      唯一分歧:--ple-io ram(DDR3)↔ --ple-io direct(DDR4)。

                      锁页账:专家 29.75 补集 + 5.17 lend = 34.92;KV 2.32;PLE 26.82。
                      DDR3 = 64.06 / 125 GiB;DDR4 = 37.24 / 62 GiB。DDR4 硬留 ram 的结果是 PLE table mlock failed

                      • 专家被挤;且 direct 是 O_DIRECT,剩下 25 GiB 空闲内存对它无效。

                      启动块(DDR4,2026-10-26 22:59):
                      PLE direct read probe 42695 rows/s (fine) / expert cache 9010 slots 17.09 GiB /
                      resident RAM mode 34.92 GiB (page-locked) / expert tiers files 0 blobs / 454 MiB VRAM free

                      DDR3 prefill 曲线(chunk 16384 vs auto 8192)

                      prompt 4K 8K 16K 32K 44K 64K 128K 200K
                      auto 826 823 1064 1051 1022 1096 — —
                      16384 854 1301 1284 1530 1515 1477 1503 1371

                      DDR4 上 chunk 16384 必须保留(lend 5.17 GiB 仍装得进 36)。

                      优点

                      DDR3 128G DDR4 64G
                      1 PLE 全常驻 mlock,无 NVMe 随机读,SSD 友好 带宽 +31%,decode +15~30%、prefill +68%,单机最快
                      2 富余 61 GiB:可与 llama-server/Qdrant 共存 内存便宜易得,2400 已满速,器件少功耗低
                      3 200K prompt 实测跑通 1371 tok/s 三档实测专家 0 blob reads

                      缺点

                      Column 1: 1
                      DDR3 128G: read 低 23%,decode 54-63、prefill 1022-1530
                      DDR4 64G: PLE 落 NVMe,O_DIRECT 不吃 page cache
                      ────────────────────────────────────────
                      Column 1: 2
                      DDR3 128G: prefill 差 68%,44K 首诊等待长
                      DDR4 64G: available 仅 16 GiB,200K / 大 prompt-cache 无余量
                      ────────────────────────────────────────
                      Column 1: 3
                      DDR3 128G: RECC Rank4 热
                      DDR4 64G: budget 36 启动窗口窄(MemAvailable ≥ 40.25 GiB,否则 clamp 退到 37 tok/s 档)
                      ────────────────────────────────────────
                      Column 1: 4
                      DDR3 128G: —
                      DDR4 64G: 454 MiB VRAM free 告警(reserve 512→576 无效,slot 9009→9010)

                      选型

                      场景 选
                      诊所日常 RAG(8K-44K,一诊一请求) DDR4 64G
                      128K-200K 超长 prompt DDR3 128G
                      同机跑别的服务 DDR3 128G
                      免 NVMe 随机读 DDR3 128G
                      省钱省电 DDR4 64G
                      单机最快 DDR4 64G
                      1 条回复 最后回复
                      0
                      • Hackner WeinlandH
                        Hackner WeinlandH
                        Hackner Weinland
                        编写于 最后由 编辑
                        #12

                        你这是单卡么?我看别的测试出来都是说strata对带宽的要求不大的

                        1 条回复 最后回复
                        0
                        • Chen GangC
                          Chen GangC
                          Chen Gang
                          编写于 最后由 编辑
                          #13

                          应该是楼主某个地方卡 bug 了,今天晚上到货,刚组了个华南 x99 bd3加三星 4*32,pcie 外接双 v100 nvlink,让 ds4flash 搭 strata 跑qwen3.8 next flash,起来直接就 七八十 t/s,让写了个俄罗斯方块,自己写自己测试自己调试,跑出来非常完美,明天准备再看看还有没有优化的潜力。

                          1 条回复 最后回复
                          0
                          • K
                            K
                            kenshin
                            体面乡绅 硕果累累
                            编写于 最后由 kenshin 编辑
                            #14

                            7900xtx单卡。换回DDR4内存,我把bois的CSM Support改成了Disabled。把ReBAR 和Above4G都改成了enable。这两个参数DDR3的内存开了就黑屏。启动不了。估计这个意外提升pp和这个有关系。当然启动参数也重新调优了。说不清楚具体收益来源于哪里。

                            PP / decode 分档实测(DDR4 现役,2026-10-26)

                            gen=512,enable_thinking:false,真实病历语料,fresh prompt(0 reused),读引擎 timing 行:

                            prompt PP tok/s PP 耗时 decode tok/s 命中率
                            1.7K 528 3.2 s 64.6-75.2 91.2-94.5%
                            6.6K 1548 4.3 s 67.4-79.4 94.4-94.9%
                            13.2K 2040 6.5 s 68.3-71.5 93.6-94.4%
                            26.4K 2035 13.0 s 68.0-70.5 94.4-95.1%
                            36.3K 1684 11.8 s 67.4-71.8 94.0-94.8%
                            44.9K 2127 21.1 s 70.7 94.3%
                            • decode 11 次取样中位 70.5 tok/s(区间 64.6-79.4),MTP draft 接受率 49-67%。
                            • PP 在 chunk 16384 下按整块计费:36.3K 的尾块只填 3.4K,PP 掉到 1684;44.9K 尾块 12K,反而 2127。
                              短 prompt 吃亏在固定开销(每块都要流式读全部专家),1.7K 只有 528 tok/s。
                            • 对 DDR3 全常驻:PP @16K 1284 → 2040(+59%),PP @44K 1515 → 2127(+40%),decode 55.4-58.1 → 中位 70.5(+21~28%)。
                            • prompt-cache 影响口径:同一 prompt 二次追问时 32K 命中 16384 reused、44K 命中 32768 reused,
                              此时 reported prefill 是复用后的 901-1750 tok/s,不能当 PP 用。
                            1 条回复 最后回复
                            0

                            你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                            厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                            有了你的建议,这篇帖子会更精彩哦 💗

                            注册 登录
                            回复
                            • 在新帖中回复
                            登录后回复
                            • 从旧到新
                            • 从新到旧
                            • 最多赞同


                            • 登录

                            • 登录或注册以进行搜索。
                            • 第一个帖子
                              最后一个帖子
                            0
                            • 版块
                            • 最新
                            • 标签
                            • 热门
                            • 用户
                            • 群组