跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. AI本地部署MAXSUN Intel Arc Pro B60 Dual 48G Turbo

AI本地部署MAXSUN Intel Arc Pro B60 Dual 48G Turbo

已定时 已固定 已锁定 已移动 AI硬件
10 帖子 7 发布者 291 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • hui chenH 离线
    hui chenH 离线
    hui chen
    编写于 最后由 编辑
    #1

    我有一片MAXSUN Intel Arc Pro B60 Dual 48G Turbo,这个应该怎么使用?能部署啥本地模型?

    1 条回复 最后回复
    2
    • terryT 在线
      terryT 在线
      terry
      编写于 最后由 编辑
      #2

      VLLM英特尔版本跑Qwen3.6 27b,LLama.cpp多卡TP不行,SG-Lang配置地狱难度,对新技术支持也慢,对英特尔非常不友好。只有VLLM折腾下双开TP,虽然它是一张显卡,但是AI识别出来是两张。本地模型现在除非能上DeepSeek V4Flahsh,造假15万起步,否则都是用Qwen3.6 27b,没有比它更强大点,编程和Agent都是如此。

      S 1 条回复 最后回复
      1
      • terryT terry

        VLLM英特尔版本跑Qwen3.6 27b,LLama.cpp多卡TP不行,SG-Lang配置地狱难度,对新技术支持也慢,对英特尔非常不友好。只有VLLM折腾下双开TP,虽然它是一张显卡,但是AI识别出来是两张。本地模型现在除非能上DeepSeek V4Flahsh,造假15万起步,否则都是用Qwen3.6 27b,没有比它更强大点,编程和Agent都是如此。

        S 离线
        S 离线
        seewoscott
        编写于 最后由 编辑
        #3

        @terry Gemma4这种多模态开源模型呢?大概能用多大规模参数和量化呢?

        墙内人墙 1 条回复 最后回复
        0
        • S seewoscott

          @terry Gemma4这种多模态开源模型呢?大概能用多大规模参数和量化呢?

          墙内人墙 离线
          墙内人墙 离线
          墙内人
          编写于 最后由 编辑
          #4

          @seewoscott 黄金尺寸Gemma4 31B,但是不如Qwen3.5 36. 27b

          一个懒人

          terryT 1 条回复 最后回复
          1
          • 墙内人墙 墙内人

            @seewoscott 黄金尺寸Gemma4 31B,但是不如Qwen3.5 36. 27b

            terryT 在线
            terryT 在线
            terry
            编写于 最后由 编辑
            #5

            @墙内人 是的,qwen3.5 3.6 27b是现象级模型,本地最能打。

            1 条回复 最后回复
            1
            • 刘海彬刘 在线
              刘海彬刘 在线
              刘海彬
              编写于 最后由 编辑
              #6

              按照这个趋势,后续的模型估计越来越给力,玩本地AI的估计有福了

              terryT 1 条回复 最后回复
              0
              • 刘海彬刘 刘海彬

                按照这个趋势,后续的模型估计越来越给力,玩本地AI的估计有福了

                terryT 在线
                terryT 在线
                terry
                编写于 最后由 编辑
                #7

                @刘海彬 后期可能模型就不是27b了,如果是35b,那24G显存就紧张了。

                1 条回复 最后回复
                0
                • 19-徐福政1 离线
                  19-徐福政1 离线
                  19-徐福政
                  编写于 最后由 19-徐福政 编辑
                  #8

                  只跑 Qwen3.6 27b Qwen3.6-35B-A3B a660 16g X2 能跑嗎 鹹魚 2000多能買到
                  或是其他 2000-3000 能買到什麼能跑的嗎?

                  terryT 1 条回复 最后回复
                  0
                  • 19-徐福政1 19-徐福政

                    只跑 Qwen3.6 27b Qwen3.6-35B-A3B a660 16g X2 能跑嗎 鹹魚 2000多能買到
                    或是其他 2000-3000 能買到什麼能跑的嗎?

                    terryT 在线
                    terryT 在线
                    terry
                    编写于 最后由 编辑
                    #9

                    @19-徐福政 便宜货效果都不行,不要折腾。老老实实买24G 3090, 7900xtx,35b a3b跑起来吃力,显存紧张,但是27b时本地之王,吊打35b。

                    1 条回复 最后回复
                    0
                    • Peace LoveP 离线
                      Peace LoveP 离线
                      Peace Love
                      编写于 最后由 编辑
                      #10

                      趁它還是新的, 趕緊賣掉換卡吧

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组