跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 装备秀
  5. 4× RTX PRO 6000 Blackwell Max Q

4× RTX PRO 6000 Blackwell Max Q

已定时 已固定 已锁定 已移动 精华 热议 装备秀
rtxpro6000多卡部署
48 帖子 22 发布者 759 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • David ChenD David Chen

    這種四片600W除改裝成水冷,不然絕對是延長線拉出來四片散開,另外建議弄個3000W以上的online UPS供養她,不然供電不穩熄滅,你絕對會幹聲連連

    Chu Hao-LungC
    Chu Hao-LungC
    Chu Hao-Lung
    德高望重
    编写于 最后由 编辑
    #26

    @David-Chen

    是的 水冷也考慮過 不過我先對抗一下大自然的溫度 再考慮下一步...

    CS6C 1 条回复 最后回复
    0
    • Chu Hao-LungC Chu Hao-Lung

      @David-Chen

      是的 水冷也考慮過 不過我先對抗一下大自然的溫度 再考慮下一步...

      CS6C
      CS6C
      CS6
      技术大牛 劳动模范
      编写于 最后由 编辑
      #27

      @Chu-Hao-Lung 不怕噪音就上暴力扇,目前3卡搭配 SilverStone 銀欣RM44 待機 36度,工作中 65~70

      1 条回复 最后回复
      0
      • Chu Hao-LungC Chu Hao-Lung

        最近終於把這台四卡 AI 工作站弄得差不多。

        一開始其實只是想組一台可以舒服跑 ComfyUI 跟本地 LLM 的機器,後來一路升級,最後乾脆直接上 WRX90 + Threadripper PRO,目標就是四張 RTX PRO 6000 Blackwell。中間踩了不少坑,弄了一台外星人,發現他並不適合upgrade 成多GPU的電腦,RAM的上限也有限。

        目前配置大概是這樣:

        配件 型號
        CPU AMD Ryzen Threadripper PRO 9975WX
        主板 ASUS Pro WS WRX90E-SAGE SE
        RAM 256GB DDR5 ECC RDIMM
        GPU 4× NVIDIA RTX PRO 6000 Blackwell Max-Q 96GB
        總顯存 384GB
        SSD 3× Samsung 990 PRO 4TB
        PSU Thermaltake Toughpower i1650W ATX 3.1
        機箱 Cooler Master HAF 700 EVO
        系統 Windows + Ubuntu Dual Boot

        IMG_0897.png

        IMG_0899.png

         顯卡
        

        這台的核心就是:

        4× RTX PRO 6000 Blackwell Max-Q 96GB

        所以總 VRAM 是:

        96GB × 4 = 384GB

        主要目的就是跑大模型跟 AI 影片,不是拿來打遊戲。

        目前家裡還是 120V,所以我暫時不打算讓四張卡全部跑滿。

        現在比較傾向把每張 GPU cap 在大約:

        250W
        

        四張就是大約 1000W。

        這樣至少在家用供電環境下比較好控制,不然四卡全開再加 CPU,整台機器功耗其實滿可怕的。未來可能會專門拉一條240V的線。
        老婆OS: 房間的燈怎麼在閃...

        主要拿來跑什麼
        

        目前主要是:

        • SGLang
        • llama.cpp
        • DeepSeek
        • Qwen
        • GLM
        • ComfyUI
        • MiniMax Video
        • LoRA
        • RAG / Agent

        看看幾個大型模型在四張 RTX PRO 6000 上面的實際速度。

        比較有興趣測:

        • DeepSeek V4.1 Flash
        • Qwen 大模型
        • GLM
        • 一些 100B+ 或 MoE 模型

        384GB VRAM 最大的好處就是很多模型可以直接放 GPU,不需要一直 offload 到 system RAM。
        模型越裝越多之後才發現,12TB 好像也沒有想像中那麼多。

        為什麼最後上 WRX90
        

        一開始其實也有考慮一般消費級平台。

        但真的開始考慮四張 GPU 之後,最大的問題就變成:

        • PCIe lanes
        • 插槽距離
        • GPU 空間
        • 供電
        • RAM 容量
        • SSD 擴充

        所以最後乾脆直接上:

        ASUS Pro WS WRX90E-SAGE SE

        搭配 Threadripper PRO。

        這平台最大的優點就是很明確:

        就是拿來塞一堆 PCIe 裝置的。

        不過四張卡真的塞進去之後,主板下面的線會變得非常痛苦。

        尤其是:

        • FAN header
        • Front panel
        • USB header
        • 底部線材

        第四張卡一裝下去,基本上都被壓在下面。可能等thermal pad到了 再優化一下。

        SSD 分配
        

        目前是三顆 4TB Samsung 990 PRO。

        大概分成:

        SSD 1
        Windows
        
        SSD 2
        Ubuntu
        
        SSD 3
        ComfyUI / Models / AI Data
        

        Windows 主要還是跑日常工具跟 ComfyUI。

        Ubuntu 則是拿來搞:

        • CUDA
        • SGLang
        • vLLM
        • Multi-GPU inference
        最大的問題
        

        目前覺得這種四卡機最大的問題不是算力。

        反而是:

        1. 供電
        2. 散熱
        3. PCIe 空間
        4. 線材

        我已經把機殼基本上能裝的風扇全塞滿了,溫度還是不是很理想,特別是跑deep seek v4.1 flash的時候,這個之後還想再研究一下。
        之後如果有空,再做一些更進一步的測試,最近北加真的太熱了...

        johnnybegoodJ
        johnnybegoodJ
        johnnybegood
        超凡大师
        编写于 最后由 编辑
        #28

        @Chu-Hao-Lung 配置很不错,就是单电源1650对工作站来说不知是否稳妥。
        第二个问题就是想知道噪音如何,不知楼主有没有分贝计? 实在没有的话,好像iphone上面也有个,虽不太准但也可以看个大概。
        如果尾部出风散热不理想,可以换成100流量以上的暴力工业扇。

        CS6C 1 条回复 最后回复
        0
        • johnnybegoodJ johnnybegood

          @Chu-Hao-Lung 配置很不错,就是单电源1650对工作站来说不知是否稳妥。
          第二个问题就是想知道噪音如何,不知楼主有没有分贝计? 实在没有的话,好像iphone上面也有个,虽不太准但也可以看个大概。
          如果尾部出风散热不理想,可以换成100流量以上的暴力工业扇。

          CS6C
          CS6C
          CS6
          技术大牛 劳动模范
          编写于 最后由 编辑
          #29

          @johnnybegood PRO6000 maxq 的風扇噪音你可以忽略不計,除非是貓頭鷹之類的靜音風扇不然基本上都比他吵,而且預設轉速是不會到100%的

          johnnybegoodJ 1 条回复 最后回复
          0
          • CS6C CS6

            @johnnybegood PRO6000 maxq 的風扇噪音你可以忽略不計,除非是貓頭鷹之類的靜音風扇不然基本上都比他吵,而且預設轉速是不會到100%的

            johnnybegoodJ
            johnnybegoodJ
            johnnybegood
            超凡大师
            编写于 最后由 编辑
            #30

            @CS6 我想问满载的时候

            1 条回复 最后回复
            0
            • Chu Hao-LungC
              Chu Hao-LungC
              Chu Hao-Lung
              德高望重
              编写于 最后由 编辑
              #31

              我剛剛試了一下 可能沒有很精準 但是跟 @cs6 說的差不多 基本上聲音都是來自 風扇 我湊在旁邊大約是60dB

              johnnybegoodJ 1 条回复 最后回复
              0
              • Chu Hao-LungC Chu Hao-Lung

                我剛剛試了一下 可能沒有很精準 但是跟 @cs6 說的差不多 基本上聲音都是來自 風扇 我湊在旁邊大約是60dB

                johnnybegoodJ
                johnnybegoodJ
                johnnybegood
                超凡大师
                编写于 最后由 编辑
                #32

                @Chu-Hao-Lung 满载60分贝应该是很舒服了,没想到涡轮扇也能这么给力

                1 条回复 最后回复
                0
                • xiaopbroX
                  xiaopbroX
                  xiaopbro
                  德高望重
                  编写于 最后由 编辑
                  #33

                  藏龙卧虎,这是真大佬啊

                  Chu Hao-LungC 1 条回复 最后回复
                  0
                  • XXXX
                    XXXX
                    XXX
                    编写于 最后由 XXX 编辑
                    #34

                    我電腦放在窗戶前, 抽風機抽熱風走. 不讓熱風在室內循環,房間也沒冷氣.

                    Chu Hao-LungC 1 条回复 最后回复
                    0
                    • xiaopbroX xiaopbro

                      藏龙卧虎,这是真大佬啊

                      Chu Hao-LungC
                      Chu Hao-LungC
                      Chu Hao-Lung
                      德高望重
                      编写于 最后由 编辑
                      #35

                      @xiaopbro

                      不敢不敢 學習繳的學費..

                      1 条回复 最后回复
                      0
                      • XXXX XXX

                        我電腦放在窗戶前, 抽風機抽熱風走. 不讓熱風在室內循環,房間也沒冷氣.

                        Chu Hao-LungC
                        Chu Hao-LungC
                        Chu Hao-Lung
                        德高望重
                        编写于 最后由 编辑
                        #36

                        @XXX

                        這是不錯的建議 我打算換一個輕一點的機殼 可能再看看怎麼安排桌子 可以做到熱空氣可以直接往外排

                        XXXX 1 条回复 最后回复
                        0
                        • 懒人烘培懒
                          懒人烘培懒
                          懒人烘培
                          德高望重 劳动模范
                          编写于 最后由 编辑
                          #37

                          配置太顶了,真实不错哦。

                          双 7900 XTX:模型本地跑,Token 随便烧!

                          1 条回复 最后回复
                          0
                          • Chu Hao-LungC Chu Hao-Lung

                            @kos-or

                            我其實是一個工程師有當一個導演的夢...
                            我想要build up 一個全自動化的電影生成器
                            基本的流程又是 寫一個故事 之後搭建自動化的翻譯工作流>多卡生成影片>自動判定影片審美 (這邊可能需要我的trainning) 去給score 然後再讓machine learning>
                            影片的QC> feedback > 生成最後的成果

                            以現在AI 進步的速度 我想人類最後存在的價值 就是各自獨立的審美 如果我可以train 我的agent/ skill 基本上就可以穩定的生成我想要的東西 但是我目前的knowledge 還遠遠不夠 都是一些初步的構想

                            T
                            T
                            Thanaots
                            德高望重 劳动模范
                            编写于 最后由 编辑
                            #38

                            @Chu-Hao-Lung 说:

                            @kos-or

                            我其實是一個工程師有當一個導演的夢...
                            我想要build up 一個全自動化的電影生成器
                            基本的流程又是 寫一個故事 之後搭建自動化的翻譯工作流>多卡生成影片>自動判定影片審美 (這邊可能需要我的trainning) 去給score 然後再讓machine learning>
                            影片的QC> feedback > 生成最後的成果

                            以現在AI 進步的速度 我想人類最後存在的價值 就是各自獨立的審美 如果我可以train 我的agent/ skill 基本上就可以穩定的生成我想要的東西 但是我目前的knowledge 還遠遠不夠 都是一些初步的構想

                            同道中人

                            1 条回复 最后回复
                            0
                            • Chu Hao-LungC Chu Hao-Lung

                              @XXX

                              這是不錯的建議 我打算換一個輕一點的機殼 可能再看看怎麼安排桌子 可以做到熱空氣可以直接往外排

                              XXXX
                              XXXX
                              XXX
                              编写于 最后由 编辑
                              #39

                              @Chu-Hao-Lung
                              我用組合架高低可以自己調.

                              1 条回复 最后回复
                              1
                              • hippoH
                                hippoH
                                hippo
                                编写于 最后由 编辑
                                #40

                                这可以跑glm5.3了吧,羡慕,顶级模型 token自由

                                Chu Hao-LungC 1 条回复 最后回复
                                1
                                • RiomationR
                                  RiomationR
                                  Riomation
                                  编写于 最后由 编辑
                                  #41

                                  @chu-hao-lung 请教一下,ComfyUI 工作流是如何分配这4张六爷进行工作的?

                                  Chu Hao-LungC 1 条回复 最后回复
                                  0
                                  • terryT
                                    terryT
                                    terry
                                    超级版主
                                    编写于 最后由 编辑
                                    #42

                                    金钱的气息啊,这么多人来围观。RTX Pro 6000的号召力还是强大的。

                                    油管:https://www.youtube.com/@抡锤者

                                    Chu Hao-LungC 1 条回复 最后回复
                                    0
                                    • hippoH hippo

                                      这可以跑glm5.3了吧,羡慕,顶级模型 token自由

                                      Chu Hao-LungC
                                      Chu Hao-LungC
                                      Chu Hao-Lung
                                      德高望重
                                      编写于 最后由 编辑
                                      #43

                                      @hippo

                                      還沒嘗試glm 5.3 但是 qwen 4.1 flash 是沒問題的 大概落在12x tps左右 最近沒時間優化 有空再分享

                                      1 条回复 最后回复
                                      0
                                      • RiomationR Riomation

                                        @chu-hao-lung 请教一下,ComfyUI 工作流是如何分配这4张六爷进行工作的?

                                        Chu Hao-LungC
                                        Chu Hao-LungC
                                        Chu Hao-Lung
                                        德高望重
                                        编写于 最后由 编辑
                                        #44

                                        @Riomation

                                        一般 comfyUI 工作流 單卡基本上足夠了 未來打算讓三卡跑模型 單卡跑LLM 看不同任務 做不同的切換

                                        RiomationR 1 条回复 最后回复
                                        0
                                        • terryT terry

                                          金钱的气息啊,这么多人来围观。RTX Pro 6000的号召力还是强大的。

                                          Chu Hao-LungC
                                          Chu Hao-LungC
                                          Chu Hao-Lung
                                          德高望重
                                          编写于 最后由 编辑
                                          #45

                                          @terry

                                          打算換一個輕一點的機殼 整理完再update!

                                          terryT 1 条回复 最后回复
                                          1

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组