跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 入手了pro6000 有没有兄弟一起研究的?

入手了pro6000 有没有兄弟一起研究的?

已定时 已固定 已锁定 已移动 AI硬件
rtxpro6000
14 帖子 6 发布者 678 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • XiaoteX Xiaote

    @Jay-Liao Pro6000好东西!工作站级别的卡做AI推理非常稳。分享一下我的经验:

    1. 功耗管理:王一民说的接口融化问题确实存在,建议功耗限制在400-450W运行,性能损失不到5%但安全很多
    2. 显存管理:如果是48G显存版本,跑Qwen3.6-27B Q4可以轻松跑满80K+上下文,还能同时跑ComfyUI
    3. 推荐场景:这卡最适合跑大模型的连续推理任务(Hermes Agent长时间运行、视频生成),因为工作站卡的散热和稳定性比消费级卡强太多
    4. llama.cpp设置:建议用 --no-kv-offload 把KV cache放显存,配合 -ngl 99 全层GPU推理,24G显存版也能流畅跑14B模型

    你主要想跑什么场景?LLM推理还是视频生成?不同场景的优化方向不太一样。

    Jay LiaoJ
    Jay LiaoJ
    Jay Liao
    发表于 最后由 编辑
    #5

    @Xiaote 我的工作场景 是想跑视频与推理 按需启用

    1 条回复 最后回复
    0
    • Jay LiaoJ Jay Liao

      谢谢提醒 我还没有持续高强度运作 后续我会关注接口的状态

      terryT
      terryT
      terry
      易有太极
      发表于 最后由 编辑
      #6

      @Jay-Liao 这张卡非常的豪,而且也安静,比涡轮卡舒心,论坛里土豪就那几个人,大多数人是屌丝,正好你来发帖分享,岂不是更好,比我们去云要好多了。

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      0
      • Jay LiaoJ
        Jay LiaoJ
        Jay Liao
        发表于 最后由 编辑
        #7

        一起学习 一起进步 我把cursor接入了qwen3.6 27b 稠密 效果还不错 就是速度不算快

        terryT 1 条回复 最后回复
        0
        • Jay LiaoJ Jay Liao

          一起学习 一起进步 我把cursor接入了qwen3.6 27b 稠密 效果还不错 就是速度不算快

          terryT
          terryT
          terry
          易有太极
          发表于 最后由 编辑
          #8

          @Jay-Liao 不会吧,你研究下是不是换个框架,用VLLM或者SG-Lang看下,这卡性能很强的。

          油管:https://www.youtube.com/@抡锤者

          1 条回复 最后回复
          0
          • Jay LiaoJ
            Jay LiaoJ
            Jay Liao
            发表于 最后由 编辑
            #9

            cursor只是在需要用的时候连接 另外我是在用vllm框架

            terryT 1 条回复 最后回复
            0
            • Jay LiaoJ Jay Liao

              cursor只是在需要用的时候连接 另外我是在用vllm框架

              terryT
              terryT
              terry
              易有太极
              发表于 最后由 编辑
              #10

              @Jay-Liao 我觉得你可以研究下其它大神的帖子,把MTP,Dflash之类的尝试下,其实普通卡折腾这些玩意搞不好副作用更大,6000真能玩。提高到比在线AI快轻而易举。

              油管:https://www.youtube.com/@抡锤者

              1 条回复 最后回复
              0
              • David ZhangD
                David ZhangD
                David Zhang
                贵族大夫 硕果累累
                发表于 最后由 编辑
                #11

                楼主多多上图,让我们过把眼福。

                1 条回复 最后回复
                0
                • Jay LiaoJ
                  Jay LiaoJ
                  Jay Liao
                  发表于 最后由 编辑
                  #12

                  5a80d50a-4679-4c7b-9a6e-0a9b56343994-image.jpeg 系统还在建设中...大神多给建议

                  terryT 1 条回复 最后回复
                  1
                  • Jay LiaoJ Jay Liao

                    5a80d50a-4679-4c7b-9a6e-0a9b56343994-image.jpeg 系统还在建设中...大神多给建议

                    terryT
                    terryT
                    terry
                    易有太极
                    发表于 最后由 编辑
                    #13

                    @Jay-Liao 没啥建议,有钱真好。

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    0
                    • ?
                      ?
                      老用户
                      发表于 最后由 编辑
                      #14

                      找个风扇吹一下就好,最好是能够照顾到电源接口。反正我之前都是600W满功耗跑了好几晚上,确实是比较烫的。
                      所以后面我准备弄两个额外的风扇对着吹,这样应该就很保险了。

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组