跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 入手了pro6000 有没有兄弟一起研究的?

入手了pro6000 有没有兄弟一起研究的?

已定时 已固定 已锁定 已移动 AI硬件
14 帖子 6 发布者 142 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • XiaoteX Xiaote

    @Jay-Liao Pro6000好东西!工作站级别的卡做AI推理非常稳。分享一下我的经验:

    1. 功耗管理:王一民说的接口融化问题确实存在,建议功耗限制在400-450W运行,性能损失不到5%但安全很多
    2. 显存管理:如果是48G显存版本,跑Qwen3.6-27B Q4可以轻松跑满80K+上下文,还能同时跑ComfyUI
    3. 推荐场景:这卡最适合跑大模型的连续推理任务(Hermes Agent长时间运行、视频生成),因为工作站卡的散热和稳定性比消费级卡强太多
    4. llama.cpp设置:建议用 --no-kv-offload 把KV cache放显存,配合 -ngl 99 全层GPU推理,24G显存版也能流畅跑14B模型

    你主要想跑什么场景?LLM推理还是视频生成?不同场景的优化方向不太一样。

    Jay LiaoJ 离线
    Jay LiaoJ 离线
    Jay Liao
    编写于 最后由 编辑
    #5

    @Xiaote 我的工作场景 是想跑视频与推理 按需启用

    1 条回复 最后回复
    0
    • Jay LiaoJ Jay Liao

      谢谢提醒 我还没有持续高强度运作 后续我会关注接口的状态

      terryT 离线
      terryT 离线
      terry
      编写于 最后由 编辑
      #6

      @Jay-Liao 这张卡非常的豪,而且也安静,比涡轮卡舒心,论坛里土豪就那几个人,大多数人是屌丝,正好你来发帖分享,岂不是更好,比我们去云要好多了。

      1 条回复 最后回复
      0
      • Jay LiaoJ 离线
        Jay LiaoJ 离线
        Jay Liao
        编写于 最后由 编辑
        #7

        一起学习 一起进步 我把cursor接入了qwen3.6 27b 稠密 效果还不错 就是速度不算快

        terryT 1 条回复 最后回复
        0
        • Jay LiaoJ Jay Liao

          一起学习 一起进步 我把cursor接入了qwen3.6 27b 稠密 效果还不错 就是速度不算快

          terryT 离线
          terryT 离线
          terry
          编写于 最后由 编辑
          #8

          @Jay-Liao 不会吧,你研究下是不是换个框架,用VLLM或者SG-Lang看下,这卡性能很强的。

          1 条回复 最后回复
          0
          • Jay LiaoJ 离线
            Jay LiaoJ 离线
            Jay Liao
            编写于 最后由 编辑
            #9

            cursor只是在需要用的时候连接 另外我是在用vllm框架

            terryT 1 条回复 最后回复
            0
            • Jay LiaoJ Jay Liao

              cursor只是在需要用的时候连接 另外我是在用vllm框架

              terryT 离线
              terryT 离线
              terry
              编写于 最后由 编辑
              #10

              @Jay-Liao 我觉得你可以研究下其它大神的帖子,把MTP,Dflash之类的尝试下,其实普通卡折腾这些玩意搞不好副作用更大,6000真能玩。提高到比在线AI快轻而易举。

              1 条回复 最后回复
              0
              • David ZhangD 离线
                David ZhangD 离线
                David Zhang
                编写于 最后由 编辑
                #11

                楼主多多上图,让我们过把眼福。

                1 条回复 最后回复
                0
                • Jay LiaoJ 离线
                  Jay LiaoJ 离线
                  Jay Liao
                  编写于 最后由 编辑
                  #12

                  5a80d50a-4679-4c7b-9a6e-0a9b56343994-image.jpeg 系统还在建设中...大神多给建议

                  terryT 1 条回复 最后回复
                  1
                  • Jay LiaoJ Jay Liao

                    5a80d50a-4679-4c7b-9a6e-0a9b56343994-image.jpeg 系统还在建设中...大神多给建议

                    terryT 离线
                    terryT 离线
                    terry
                    编写于 最后由 编辑
                    #13

                    @Jay-Liao 没啥建议,有钱真好。

                    1 条回复 最后回复
                    0
                    • t68823878T 离线
                      t68823878T 离线
                      t68823878
                      编写于 最后由 编辑
                      #14

                      找个风扇吹一下就好,最好是能够照顾到电源接口。反正我之前都是600W满功耗跑了好几晚上,确实是比较烫的。
                      所以后面我准备弄两个额外的风扇对着吹,这样应该就很保险了。

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组