跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. Pro 6000都是怎么玩?

Pro 6000都是怎么玩?

已定时 已固定 已锁定 已移动 AI硬件
rtxpro6000
12 帖子 8 发布者 777 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Ray WangR Ray Wang

    最近想更新一下我的配置,平时用Openclaw帮我做调研,写码,也用comfyui跑图。我算了一下,咬咬牙其实可以上一张Pro 6000。

    但Pro 6000在我眼里就是皇帝的金锄头

    我手里已经有一块3090了,如果再加一块3090,我就可以比较舒服的跑Qwen3.6 27b了,甚至还能并行。如果我需要做图,我还可以再加一张3090,单独用来跑comfyui,跟另外两张3090协同。

    但是如果只装一块Pro 6000的话,虽然好像可以把两种模型都装进显存,但是似乎却不能协同作业?也就是说虽然我可以并行很多大模型,但是却不能同时作图?

    当然了,一张Pro 6000的耗电低得多,但我还是觉得我目前的工作吃不满96gb显存。我这种情况是不是买两张魔改4090更合适?

    Hank WangH
    Hank WangH
    Hank Wang
    发表于 最后由 编辑
    #3

    @Ray-Wang 说:

    最近想更新一下我的配置,平时用Openclaw帮我做调研,写码,也用comfyui跑图。我算了一下,咬咬牙其实可以上一张Pro 6000。

    但Pro 6000在我眼里就是皇帝的金锄头

    我手里已经有一块3090了,如果再加一块3090,我就可以比较舒服的跑Qwen3.6 27b了,甚至还能并行。如果我需要做图,我还可以再加一张3090,单独用来跑comfyui,跟另外两张3090协同。

    但是如果只装一块Pro 6000的话,虽然好像可以把两种模型都装进显存,但是似乎却不能协同作业?也就是说虽然我可以并行很多大模型,但是却不能同时作图?

    当然了,一张Pro 6000的耗电低得多,但我还是觉得我目前的工作吃不满96gb显存。我这种情况是不是买两张魔改4090更合适?

    有钱就买96G显存的。万一出来牛逼模型需要64以上显存你的卡就有用了。反正运行什么都快,不是吗。

    1 条回复 最后回复
    0
    • Ray WangR Ray Wang

      最近想更新一下我的配置,平时用Openclaw帮我做调研,写码,也用comfyui跑图。我算了一下,咬咬牙其实可以上一张Pro 6000。

      但Pro 6000在我眼里就是皇帝的金锄头

      我手里已经有一块3090了,如果再加一块3090,我就可以比较舒服的跑Qwen3.6 27b了,甚至还能并行。如果我需要做图,我还可以再加一张3090,单独用来跑comfyui,跟另外两张3090协同。

      但是如果只装一块Pro 6000的话,虽然好像可以把两种模型都装进显存,但是似乎却不能协同作业?也就是说虽然我可以并行很多大模型,但是却不能同时作图?

      当然了,一张Pro 6000的耗电低得多,但我还是觉得我目前的工作吃不满96gb显存。我这种情况是不是买两张魔改4090更合适?

      williamlouisW
      williamlouisW
      williamlouis
      易有太极
      发表于 最后由 编辑
      #4

      @Ray-Wang AI的分析永远很片面。我推6000
      3090 多少有赌的成分。而且 串行 也不一定会慢多少。再有战未来吗!不能并行是现在。AI发展很快。
      大显存是显卡价值的未来规划。放心以后的模型会像Windows一样。门槛就是硬件。
      钱要是充裕就上6000。钱紧张的话就不要研究了。

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      1 条回复 最后回复
      0
      • stakiraS
        stakiraS
        stakira
        体面乡绅
        发表于 最后由 stakira 编辑
        #5

        Pro 6000 除了显存大,性能也就比 5090 强一点点。这玩意儿官方定价溢价就已经很高了,换算下来可以跑茫茫多的 API。没有实际用途就别买了,显卡是会过时的,而发烧是无止境的。今天有了 Pro 6000 就会感觉咬咬牙来第二张就可以跑某某模型了,有了第二张又觉得再来两张/六张就可以跑前沿模型了。当然,如果你明确知道自己需要 96GB 显存跑 n 秒以上的视频生成 + 用不起Seedance2.0 + 用不上Seedance 2.0的质量,那还是可以买的。

        1 条回复 最后回复
        0
        • Ray WangR Ray Wang

          最近想更新一下我的配置,平时用Openclaw帮我做调研,写码,也用comfyui跑图。我算了一下,咬咬牙其实可以上一张Pro 6000。

          但Pro 6000在我眼里就是皇帝的金锄头

          我手里已经有一块3090了,如果再加一块3090,我就可以比较舒服的跑Qwen3.6 27b了,甚至还能并行。如果我需要做图,我还可以再加一张3090,单独用来跑comfyui,跟另外两张3090协同。

          但是如果只装一块Pro 6000的话,虽然好像可以把两种模型都装进显存,但是似乎却不能协同作业?也就是说虽然我可以并行很多大模型,但是却不能同时作图?

          当然了,一张Pro 6000的耗电低得多,但我还是觉得我目前的工作吃不满96gb显存。我这种情况是不是买两张魔改4090更合适?

          terryT
          terryT
          terry
          易有太极
          发表于 最后由 编辑
          #6

          @Ray-Wang 单卡Pro 6000更合适,或者你的需求一张4090 48G就够了。

          油管:https://www.youtube.com/@抡锤者

          1 条回复 最后回复
          1
          • Ray WangR
            Ray WangR
            Ray Wang
            体面乡绅
            发表于 最后由 编辑
            #7

            哈哈哈,算上小特基本2:2了。也是公说公有理婆说婆有理。小马过河只能自己去试了😂

            Server: 2x E5 2680v4 | 2x RTX 3090 | 128GB DDR3 ECC
            PC: 9950x | 1080 Ti | 96GB DDR5

            terryT 1 条回复 最后回复
            0
            • ?
              ?
              老用户
              发表于 最后由 编辑
              #8

              PRO 6000如果只聊单线程prefill和decode性能,只是和5090相当。
              PRO 6000的优势主要在于ECC认证的显存、官方静音涡轮卡(MAX-Q版本)以及多出来的64GB显存。

              所以公式很简单,如果你认为64GB ECC认证显存的价值>40000人民币,或者你想玩静音阵列(比如MAX-Q * 3)跑deepseek v4 flash,你就可以买。
              否则就不买。

              这里有几个原因。
              1、96GB显存,其实跑不下大的Moe模型。122B的Q5量化就爆了。
              2、对于小模型,96GB显存又过于overkill。
              3、多个模型服务跑在一张显卡上,目前没有一个最佳实践做资源隔离。会降低效率。(因为你一定是用Agent来驱动LLM,所以必然是多个模型同时运行)。

              Ray WangR 1 条回复 最后回复
              2
              • ?
                ?
                老用户
                发表于 最后由 编辑
                #9

                另,小特在这个贴子的回复引用的论据有诸多硬伤,可以忽略。

                1 条回复 最后回复
                1
                • Ray WangR Ray Wang

                  哈哈哈,算上小特基本2:2了。也是公说公有理婆说婆有理。小马过河只能自己去试了😂

                  terryT
                  terryT
                  terry
                  易有太极
                  发表于 最后由 编辑
                  #10

                  @Ray-Wang 小特是特么的AI,你可以把它的话当放屁。

                  油管:https://www.youtube.com/@抡锤者

                  1 条回复 最后回复
                  0
                  • ? 老用户

                    PRO 6000如果只聊单线程prefill和decode性能,只是和5090相当。
                    PRO 6000的优势主要在于ECC认证的显存、官方静音涡轮卡(MAX-Q版本)以及多出来的64GB显存。

                    所以公式很简单,如果你认为64GB ECC认证显存的价值>40000人民币,或者你想玩静音阵列(比如MAX-Q * 3)跑deepseek v4 flash,你就可以买。
                    否则就不买。

                    这里有几个原因。
                    1、96GB显存,其实跑不下大的Moe模型。122B的Q5量化就爆了。
                    2、对于小模型,96GB显存又过于overkill。
                    3、多个模型服务跑在一张显卡上,目前没有一个最佳实践做资源隔离。会降低效率。(因为你一定是用Agent来驱动LLM,所以必然是多个模型同时运行)。

                    Ray WangR
                    Ray WangR
                    Ray Wang
                    体面乡绅
                    发表于 最后由 编辑
                    #11

                    @王一民 说:

                    PRO 6000如果只聊单线程prefill和decode性能,只是和5090相当。
                    PRO 6000的优势主要在于ECC认证的显存、官方静音涡轮卡(MAX-Q版本)以及多出来的64GB显存。

                    所以公式很简单,如果你认为64GB ECC认证显存的价值>40000人民币,或者你想玩静音阵列(比如MAX-Q * 3)跑deepseek v4 flash,你就可以买。
                    否则就不买。

                    这里有几个原因。
                    1、96GB显存,其实跑不下大的Moe模型。122B的Q5量化就爆了。
                    2、对于小模型,96GB显存又过于overkill。
                    3、多个模型服务跑在一张显卡上,目前没有一个最佳实践做资源隔离。会降低效率。(因为你一定是用Agent来驱动LLM,所以必然是多个模型同时运行)。

                    谢谢,所以我的第一感觉应该是没错的,6000确实很屌,但是我目前可能用不太到。真正需要的时候再换好了。

                    Server: 2x E5 2680v4 | 2x RTX 3090 | 128GB DDR3 ECC
                    PC: 9950x | 1080 Ti | 96GB DDR5

                    1 条回复 最后回复
                    0
                    • I
                      I
                      iamvirus
                      体面乡绅 硕果累累
                      发表于 最后由 编辑
                      #12

                      pro 6000 没有别的缺点,就一个缺点贵!当然这个是我们的缺点。谁不想双卡6000 本地部署DeepSeek v4 flash 10并发爽死。搞好工作流。几乎都可以跑很多个agent了。到时候是你没有这么多任务喂给他

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组