跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. AI硬件
  4. 技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行

技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行

已定时 已固定 已锁定 已移动 AI硬件
comfyui
112 帖子 19 发布者 1.3k 浏览 2 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • CS6C CS6

    @b9704037 你花更多的錢買了貴的硬件,才有機會去折騰更複雜的環境 應該說在商用的情境下,專業版的硬體設備有沒有經過優化的軟體架構會差滿多,如果你使用Win的話會建議你安裝 LTS版或者是IOT嵌入式的版本,至少不太會遇到更新爆開的問題,不過驅動上預載會變少需要手動安裝,

    b9704037B 离线
    b9704037B 离线
    b9704037
    德高望重
    发表于 最后由 编辑
    #60

    @CS6 完全可以理解, 現在我們是公司三個人在用這個設備, 很偶爾才會有排隊的狀況, 我覺得使用率一旦變高, 就要開始折騰或是尋求專業的協助了

    terryT 1 条回复 最后回复
    0
    • b9704037B b9704037

      @CS6 完全可以理解, 現在我們是公司三個人在用這個設備, 很偶爾才會有排隊的狀況, 我覺得使用率一旦變高, 就要開始折騰或是尋求專業的協助了

      terryT 在线
      terryT 在线
      terry
      超级版主
      发表于 最后由 编辑
      #61

      @b9704037 你们可以把请求交给Hermes管理,让AI帮你们提交请求。自动队列就好了。这设备别说3个人,正常生产10个人也够了。

      油管:https://www.youtube.com/@抡锤者

      CS6C 1 条回复 最后回复
      0
      • terryT terry

        @b9704037 其实你认真排查下,你的脚本可能有问题,如果正常跑,你96G显存,除了载入模型,你不该用到内存的。即便是VAE用到,它也不吃内存带宽和频率,可能你有其它流程降级到了CPU。

        b9704037B 离线
        b9704037B 离线
        b9704037
        德高望重
        发表于 最后由 编辑
        #62

        @terry 你們正常跑ComfyUI的時候內存不會一直上下快速跳動嗎?

        terryT 1 条回复 最后回复
        0
        • terryT terry

          @b9704037 你们可以把请求交给Hermes管理,让AI帮你们提交请求。自动队列就好了。这设备别说3个人,正常生产10个人也够了。

          CS6C 离线
          CS6C 离线
          CS6
          技术大牛 劳动模范
          发表于 最后由 编辑
          #63

          @terry Hermes管理前提是三個人的使用環境完全一致吧 🤔 ,我們是採用類 runpod 的模式讓用戶調用不同的 ComfyUI 工作流,才不會污染環境跟打架,再來是D I T工作流也要處理好,不然光是IO就會卡住

          1 条回复 最后回复
          0
          • b9704037B b9704037

            @terry 你們正常跑ComfyUI的時候內存不會一直上下快速跳動嗎?

            terryT 在线
            terryT 在线
            terry
            超级版主
            发表于 最后由 编辑
            #64

            @b9704037 会,但是波动很小,只有VAE阶段会大量调用内存,其它时候内存占用率一直是比较低的状态,4090 48G基本全流程都在显存里。xtx就会频繁切换,因为要卸载模型。Pro6000你设置GPU-Only参数看看,问下AI。

            油管:https://www.youtube.com/@抡锤者

            b9704037B 1 条回复 最后回复
            0
            • terryT terry

              @b9704037 会,但是波动很小,只有VAE阶段会大量调用内存,其它时候内存占用率一直是比较低的状态,4090 48G基本全流程都在显存里。xtx就会频繁切换,因为要卸载模型。Pro6000你设置GPU-Only参数看看,问下AI。

              b9704037B 离线
              b9704037B 离线
              b9704037
              德高望重
              发表于 最后由 编辑
              #65

              @terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了😲

              CS6C terryT 2 条回复 最后回复
              0
              • b9704037B b9704037

                @terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了😲

                CS6C 离线
                CS6C 离线
                CS6
                技术大牛 劳动模范
                发表于 最后由 编辑
                #66

                @b9704037 我真的覺得買 DDR5五超盤..... 當初要是買D4的話都可以上 TR5了,插好插滿

                b9704037B 1 条回复 最后回复
                0
                • CS6C CS6

                  @b9704037 我真的覺得買 DDR5五超盤..... 當初要是買D4的話都可以上 TR5了,插好插滿

                  b9704037B 离线
                  b9704037B 离线
                  b9704037
                  德高望重
                  发表于 最后由 编辑
                  #67

                  @CS6
                  我現在只能慶幸,我在五月底pro6000漲價前一刻買到 32萬的價錢, DDR5就只能當作出來混, 有一天終就要還的了😑

                  1 条回复 最后回复
                  0
                  • b9704037B b9704037

                    @terry 好的 我這幾天花時間研究一下, 我研究完之後把心得貼上來, 哇, 我以為是我內存太差, 今天還花時間刷BIOS, 再上了DDR5 64G*4 花了14萬台幣, 虧爛了😲

                    terryT 在线
                    terryT 在线
                    terry
                    超级版主
                    发表于 最后由 编辑
                    #68

                    @b9704037 DDR5不会亏的,256G搭配一个5070之类的跑DeepSeek V4 Flash。

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    0
                    • kos orK 离线
                      kos orK 离线
                      kos or
                      技术大牛 劳动模范
                      发表于 最后由 kos or 编辑
                      #69

                      电源:EVGA 1000W GT 就能推動這麼強的AI威力, 真是個寶貝呀~

                      b9704037B 1 条回复 最后回复
                      0
                      • b9704037B b9704037

                        大大覺得沒用沒有參考價值要刪掉就刪掉吧, 反正我是自己把我一路從I卡A770 X79 X99這些東西拼拼湊湊起來的, 遇到的問題和瓶頸分享了

                        kos orK 离线
                        kos orK 离线
                        kos or
                        技术大牛 劳动模范
                        发表于 最后由 编辑
                        #70

                        @b9704037 说:

                        反正我是自己把我一路從I卡A770 X79 X99這些東西拼拼湊湊起來的, 遇到的問題和瓶頸分享了

                        這一路走來花了半年嗎?

                        1 条回复 最后回复
                        0
                        • b9704037B b9704037

                          @williamlouis
                          我一字一字把經歷打出來給你說雲, 我不懂什麼太深奧的東西, 我就一個凡人, 踩過的坑就這麼多, 避免有人踩坑, 分享一下我圖啥了, 發帖能賺錢? 我不知道你權限多高, 你覺得我這帖沒有用, 能刪了你就刪了吧, 反正我可能就發這一次貼文而已。

                          證明我不是嘴巴說說, 我把我買過的東西都貼出來
                          S__61808717.jpg S__61661192_0.jpg V1007.jpg

                          韦 离线
                          韦 离线
                          韦春花
                          发表于 最后由 编辑
                          #71

                          @b9704037 为什么俺键盘上满是口水🤤 🤤 🤤

                          1 条回复 最后回复
                          0
                          • terryT terry

                            @CS6 我上哪里去买这么贵的卡,不是有人在测试了吗?我暂时就4090 48G能用好,就足够赚钱了。

                            kos orK 离线
                            kos orK 离线
                            kos or
                            技术大牛 劳动模范
                            发表于 最后由 编辑
                            #72

                            @terry 说:

                            暂时就4090 48G能用好,就足够赚钱了。

                            哈哈 對呀 賺錢第一

                            1 条回复 最后回复
                            0
                            • 韦 离线
                              韦 离线
                              韦春花
                              发表于 最后由 编辑
                              #73

                              80G内存占用 2026-06-09 011400.png
                              不管VRAM转移到RAM、缓存模型复用都会用到大内存,比VRAM那价格感觉赚飞了。俺是怕4个槽插满问题多才只买了2根,可惜了两根才3400软妹币

                              1 条回复 最后回复
                              0
                              • 九龙杨生九 离线
                                九龙杨生九 离线
                                九龙杨生
                                技术大牛 劳动模范
                                发表于 最后由 编辑
                                #74

                                1、上BF16精度是不是太奢侈了一点啊,一般情况用不到那么高的精度吧;
                                2、如果用FP8精度单张卡应该就能满足大部分要求吧,当然富哥无敌!
                                3、我实际大概测试了一下,max-q版本性能应该不止低20%;我是用600W版本限制功耗到300W尝试了一下;

                                欢迎访问亿量科技官网
                                欢迎访问亿量科技油管频道

                                1 条回复 最后回复
                                0
                                • 5 离线
                                  5 离线
                                  566656661
                                  超凡大师
                                  发表于 最后由 编辑
                                  #75

                                  還真是貧窮限制了我的想像

                                  如果能優化跟用NVFP4估計能跑Qwen 3.5 122B A10B 或者Coder Next了吧

                                  1 条回复 最后回复
                                  0
                                  • kos orK kos or

                                    电源:EVGA 1000W GT 就能推動這麼強的AI威力, 真是個寶貝呀~

                                    b9704037B 离线
                                    b9704037B 离线
                                    b9704037
                                    德高望重
                                    发表于 最后由 编辑
                                    #76

                                    @kos-or 是的, 是蝦皮購買二手的母豬礦電, 只要2100, 但品質很好, 重量很沉
                                    我們從2月開始接觸與摸索, 差不多確實快要半年了。

                                    @韦春花 好羨慕3400元真的好平價, 真的太值得了 現在一條要價6500R😢

                                    @九龙杨生 我們使用ComfyUI大概會跑50-60GB, 單張剩下40GB, 我們想說盡量地去用乾淨, 所以選擇了BF16沒有選擇FP8, 主要是600W的硬體架構與散熱, 我們還要重新買power和換機殼, 想著他太吃電了, 就沒有選擇600W

                                    @566656661 我們有試過A10B和35B A3B, 但是不知道為什麼算力都沒有辦法一下子開頭跑滿全力運算, 總是卡卡的, 後來還是用了27B稠密, 我們的感覺是A10B A3B像省油日本車, 27B稠密像是一台油門全開的跑車。

                                    5 1 条回复 最后回复
                                    0
                                    • b9704037B b9704037

                                      @kos-or 是的, 是蝦皮購買二手的母豬礦電, 只要2100, 但品質很好, 重量很沉
                                      我們從2月開始接觸與摸索, 差不多確實快要半年了。

                                      @韦春花 好羨慕3400元真的好平價, 真的太值得了 現在一條要價6500R😢

                                      @九龙杨生 我們使用ComfyUI大概會跑50-60GB, 單張剩下40GB, 我們想說盡量地去用乾淨, 所以選擇了BF16沒有選擇FP8, 主要是600W的硬體架構與散熱, 我們還要重新買power和換機殼, 想著他太吃電了, 就沒有選擇600W

                                      @566656661 我們有試過A10B和35B A3B, 但是不知道為什麼算力都沒有辦法一下子開頭跑滿全力運算, 總是卡卡的, 後來還是用了27B稠密, 我們的感覺是A10B A3B像省油日本車, 27B稠密像是一台油門全開的跑車。

                                      5 离线
                                      5 离线
                                      566656661
                                      超凡大师
                                      发表于 最后由 编辑
                                      #77

                                      @b9704037

                                      畢竟MoE就是10B Activation, 我自己是理解成一大群的10B模型的集合體, Dense就27B全部一起上, 27B打贏10B就不太意外了

                                      Deepseek v4 pro自己就是1600B A49B 這個MoE比常用的開源模型還要大啊

                                      1 条回复 最后回复
                                      0
                                      • 张老师张 离线
                                        张老师张 离线
                                        张老师
                                        劳动模范 德高望重
                                        发表于 最后由 编辑
                                        #78

                                        嫉妒!我的仇富心理到达了顶端——哈哈,开玩笑的。

                                        如果我跟我家里领导说,要买两张10万块的显卡,她肯定觉得我疯了。但要是通过话术磨上几天,再换个说法:“我们去买个车吧,最新款的特斯拉不错……”我很有信心能得逞,而且还能忽悠成顶配!因为去年我就是这么成功的。

                                        仔细想想,我买车的时候从标配一路升到顶配,差价也够买一张好显卡了,但我当时并没有觉得肉疼。为什么到了买显卡这件事上,我却磨磨唧唧,看论坛犹豫了快两个月?

                                        1 条回复 最后回复
                                        0
                                        • kos orK 离线
                                          kos orK 离线
                                          kos or
                                          技术大牛 劳动模范
                                          发表于 最后由 kos or 编辑
                                          #79

                                          一般我都是看Local LLM 的帖子或youtube, 不碰硬體的
                                          結果一下海才發現水很深 ~~~ 也有買錯配置的時候
                                          先暫時這樣將就著 等有需求 以後再換硬體配置

                                          b9704037B 1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 首页
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组