跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 64GB vs 96GB跑Strata Flash-Next

64GB vs 96GB跑Strata Flash-Next

已定时 已固定 已锁定 已移动 热议 LLM讨论区
strataqwen-flash本地模型
26 帖子 12 发布者 447 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • he wangaH
    he wangaH
    he wanga
    编写于 最后由 he wanga 编辑
    #15

    我覺得是96GB,並且未來預期升至128GB,
    因為我目前是64GB,IQ3_S + 256K系統內存只剩7~9GB浮動
    當然這是case by case,不過有些耳聞IQ4是比較夠用的,未來能保留升級空間也好
    況且如果你是想一起執行dsh或hermes等agent,那勢必還得留出20~30GB剩餘浮動內存好

    1 条回复 最后回复
    1
    • Henry Chiu 0H Henry Chiu 0

      @XIUNAN-ZHI 暫時預算不夠去128gb, haha, 只有24GB卡跑27B. 所以我才糾結要不要96GB ram 跑flash next.

      XIUNAN ZHIX
      XIUNAN ZHIX
      XIUNAN ZHI
      编写于 最后由 编辑
      #16

      @Henry-Chiu-0 普通内存不算贵吧,如果服务器内存就算了

      Henry Chiu 0H 1 条回复 最后回复
      0
      • stxpnetS
        stxpnetS
        stxpnet
        超凡大师
        编写于 最后由 stxpnet 编辑
        #17

        别人的,V100 4卡。96G显存【仔细看,他的是32+32+16+16】,QFN 3.8 Q6_K_XL,写出来的鹈鹕:

        【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】

        image.jpeg
        image.jpeg

        另外说个题外话,我在X上面看 STRATA的作者,应该是个老美,感觉非常负责。如果你的硬件比较典型,又觉得还没发挥到极致,可以私信把机器控制权给他,他远程用CLUADE了解情况,升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。

        双卡3090 PCIE 4.0 16X/16X

        白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
        夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
        XIUNAN ZHIX 1 条回复 最后回复
        0
        • XIUNAN ZHIX XIUNAN ZHI

          @Henry-Chiu-0 普通内存不算贵吧,如果服务器内存就算了

          Henry Chiu 0H
          Henry Chiu 0H
          Henry Chiu 0
          编写于 最后由 编辑
          #18

          @XIUNAN-ZHI 😁 其實也不算貴, 只是該組合64GB跟96GB差距是7000塊, 覺得性價比是否值得

          1 条回复 最后回复
          0
          • stxpnetS stxpnet

            别人的,V100 4卡。96G显存【仔细看,他的是32+32+16+16】,QFN 3.8 Q6_K_XL,写出来的鹈鹕:

            【128GB RAM + 96GB VRAM + Strata = beyond expectations. Qwen3.8-Flash Q6_K_XL: 100+ TPS, 1200+ prefill. That's all I need. Q6 quality is a dream for local LLMs.】

            image.jpeg
            image.jpeg

            另外说个题外话,我在X上面看 STRATA的作者,应该是个老美,感觉非常负责。如果你的硬件比较典型,又觉得还没发挥到极致,可以私信把机器控制权给他,他远程用CLUADE了解情况,升级代码。 过几天代码又会变强。 这人改变了我对老美的看法。

            XIUNAN ZHIX
            XIUNAN ZHIX
            XIUNAN ZHI
            编写于 最后由 编辑
            #19

            @stxpnet 支持多卡了吗?我以为只能单卡。Q6精度,有时间我也试试。

            1 条回复 最后回复
            0
            • Henry Chiu 0H Henry Chiu 0

              @farmer-node 了解. 如果單機只跑flash next , 64GB都足夠有良好體驗對嗎?因為我找到更便宜方案, 現在64GB跟96GB相差了接近7000塊, 如果多出來的32GB對單機只跑flash next沒有大分別, 真的不值得加了.

              farmer nodeF
              farmer nodeF
              farmer node
              德高望重 劳动模范
              编写于 最后由 编辑
              #20

              @Henry-Chiu-0 跑都能跑,64G 只是刚好够门槛,跑Strata IQ3_XXS , Strata IQ3_S可能也够,但是你说的其他的更多服务就不要想了。想要更好的体验 还是用96G ,而且后续可能还有4.0 flash next ,内存还是越大越好。

              1 条回复 最后回复
              1
              • terryT
                terryT
                terry
                超级版主
                编写于 最后由 编辑
                #21

                64G内存入门,128G起飞。

                油管:https://www.youtube.com/@抡锤者

                1 条回复 最后回复
                0
                • XiaoteX
                  XiaoteX
                  Xiaote
                  编写于 最后由 编辑
                  #22

                  🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!

                  奖励凭证:热议 +3 分 · 编号 h2264-641-1(系统自动发放,显示稍有延迟)

                  老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                  1 条回复 最后回复
                  0
                  • Henry Chiu 0H Henry Chiu 0

                    看見各位大大都在跑分和測試, 想知道內存對使用體感的差別. 都知道最好能上128GB, 但預算不夠, 96GB跟64GB相差3千塊, 在糾結. 沒有剛需, 但比較多用各式MCP, 如blender/comfyui/aftereffect/C4D....等, 只是剛好要多組一台機, 就覺得不跑白不跑. 如果Flash-Next跑在64GB上系統其實還有空間多工, 就想省下3千塊,還是大大覺得現在省3千塊, 之後就要6千塊, 哈哈. 要不跑27B算了.

                    J Z 0J
                    J Z 0J
                    J Z 0
                    编写于 最后由 编辑
                    #23

                    @Henry-Chiu-0 我买了128, 跑iq3_s, 7900xtx。因为ssd太慢,把ple表放进内存,最后连系统一共用了87g内存。等nvme有打折,我得换一个ssd

                    1 条回复 最后回复
                    0
                    • XiaoteX
                      XiaoteX
                      Xiaote
                      编写于 最后由 编辑
                      #24

                      看你要不要同时重度多开:

                      • 只跑 Flash-Next(IQ3 权重约 47G 要进 RAM)时,64G 是"刚够":系统 + 引擎 + 浏览器/IDE 一占就贴上限,稍有并发就换页。换页一发生是断崖式变慢,不是线性慢。
                      • 你要同时开 Blender/ComfyUI/C4D,这些模型和预览缓存都是 GB 级;再加常驻的 MCP 进程,64G 会很紧。96G 买的是避免换页的余量,不是给模型直接加速。
                      • 判断方法:跑你最常用的组合,看「提交内存/分页文件」峰值和 Windows 硬错误页;接近物理内存上限就上 96G。
                      • 3 千块换的是"多工不换页"。只跑 27B 的话 64G 够、能省;要重度多开就直接 96G,DDR 平台换代后补内存通常更贵。

                      老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                      1 条回复 最后回复
                      0
                      • stxpnetS
                        stxpnetS
                        stxpnet
                        超凡大师
                        编写于 最后由 stxpnet 编辑
                        #25

                        体感 就是内存越大, 会话缓存可以开更大,上下文长度也可以开更大,昨天256K X 2并发 ,测试不太够用.
                        峰值占用173G内存.
                        image.jpeg
                        今天加到了384K上下文, 会话内存也从64G扩展到80G, 双并发,刚升级了新版. 跑了大半天的结果(147G涨到了188G内存) :
                        image.jpeg

                        跑满了估计 得210G内存左右了.

                        双卡3090 PCIE 4.0 16X/16X

                        白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                        夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                        1 条回复 最后回复
                        0
                        • A
                          A
                          applejuice
                          技术大牛 劳动模范
                          编写于 最后由 applejuice 编辑
                          #26

                          对不起 今天打脸了 看到@stxpnet 大佬说的才发现
                          内存越大越好
                          大内存可以开512k
                          再来如果内存够的话 还可以把对话收起来
                          如果 同个时间有几个对话框,转来转去不需要每次都从prefill

                          一个512k 的对话需要 16gb RAM
                          用hermes 做例子
                          hermes 50% 自动压缩 所以一个对话大概需要10gb RAM
                          存8个对话就需要 80gb

                          1 条回复 最后回复
                          0

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组