跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 618梭哈一把硬件配置,探索一下。

618梭哈一把硬件配置,探索一下。

已定时 已固定 已锁定 已移动 AI硬件
37 帖子 10 发布者 455 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • williamlouisW williamlouis

    48G 绝对是 民用标兵了。 想搞点什么都够用了。而且 模型 优化工具都在更新。尤其显存上下文压缩技术。未来的显存需求只能越来越小。我是老想法。没有实操项目不需要搞那么高的显存。完全浪费。24G入门 32G优秀 48G放飞级别了。

    kos orK 离线
    kos orK 离线
    kos or
    劳动模范 德高望重
    编写于 最后由 编辑
    #27

    @williamlouis 说:

    未来的显存需求只能越来越小

    對呀
    但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

    williamlouisW 1 条回复 最后回复
    0
    • kos orK kos or

      @williamlouis 说:

      未来的显存需求只能越来越小

      對呀
      但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

      williamlouisW 在线
      williamlouisW 在线
      williamlouis
      超级版主
      编写于 最后由 编辑
      #28

      @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      kos orK 1 条回复 最后回复
      0
      • Tony WangT 离线
        Tony WangT 离线
        Tony Wang
        超级版主
        编写于 最后由 编辑
        #29

        一个LLM 做大脑
        一个ComfyUI 跑几个diffusion相关的模型
        一套IOT模型 (whisper+TTS)
        一套RAG模型( embedding + rerank)
        ......

        我最大可能的应用场景是:
        1, 27b+256K上下文
        2, 一个生图的 ComfyUI (我不需要视频)
        3, RAG 相关
        4, IOT 相关
        主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

        如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

        williamlouisW 1 条回复 最后回复
        1
        • Tony WangT Tony Wang

          一个LLM 做大脑
          一个ComfyUI 跑几个diffusion相关的模型
          一套IOT模型 (whisper+TTS)
          一套RAG模型( embedding + rerank)
          ......

          我最大可能的应用场景是:
          1, 27b+256K上下文
          2, 一个生图的 ComfyUI (我不需要视频)
          3, RAG 相关
          4, IOT 相关
          主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

          如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

          williamlouisW 在线
          williamlouisW 在线
          williamlouis
          超级版主
          编写于 最后由 williamlouis 编辑
          #30

          @Tony-Wang 大哥你这有点 喧宾夺主啦。我们可以去你的帖子里聊。还有你的卡过7天无理由了吧?但是 没开封的话 确实可以退。而且京东应该很乐意。
          但是这些天的升值你肯定是拿不到了。

          个人主页:xlkj.org Telegram https://t.me/xlkjorg

          1 条回复 最后回复
          0
          • williamlouisW williamlouis

            @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

            kos orK 离线
            kos orK 离线
            kos or
            劳动模范 德高望重
            编写于 最后由 编辑
            #31

            @williamlouis

            沒用途就不用花錢了 省一點

            williamlouisW 1 条回复 最后回复
            0
            • williamlouisW 在线
              williamlouisW 在线
              williamlouis
              超级版主
              编写于 最后由 编辑
              #32

              在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              Tony WangT 1 条回复 最后回复
              0
              • williamlouisW williamlouis

                在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

                Tony WangT 离线
                Tony WangT 离线
                Tony Wang
                超级版主
                编写于 最后由 编辑
                #33

                @williamlouis 😊

                我只是想象一下, 我还没回国呢, 得到月底才能到北京. 到时候再折腾.

                1 条回复 最后回复
                0
                • kos orK kos or

                  @williamlouis

                  沒用途就不用花錢了 省一點

                  williamlouisW 在线
                  williamlouisW 在线
                  williamlouis
                  超级版主
                  编写于 最后由 编辑
                  #34

                  @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                  kos orK 1 条回复 最后回复
                  0
                  • Tony WangT Tony Wang

                    @williamlouis

                    我看京东丽台的 72G 都 59999了 😠

                    terryT 离线
                    terryT 离线
                    terry
                    超级版主
                    编写于 最后由 编辑
                    #35

                    @Tony-Wang 你上了72G会发现96G才够用,你需要明白你要那24G显存干嘛,如果是跑大模型,都是Qwen3.6 27b,反复折腾就是那玩意,显存足够且可多开,如果跑wan,你的卡哪怕1080P也够了,实际上wan就720P就好,多了意义不大,太慢,哪怕是RTX Pro 6000都慢。LTX有无限数字人工作流,48G也足够上1080P的。但是也很慢,我现在用的是720P的工作流,最高占用40G显存。你也要考虑本地开源模型的开发者,如果48G都不能跑,他们开发给谁用?大多数时候32G都够了。

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    1
                    • williamlouisW williamlouis

                      @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                      kos orK 离线
                      kos orK 离线
                      kos or
                      劳动模范 德高望重
                      编写于 最后由 编辑
                      #36

                      @williamlouis

                      我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                      williamlouisW 1 条回复 最后回复
                      0
                      • kos orK kos or

                        @williamlouis

                        我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                        williamlouisW 在线
                        williamlouisW 在线
                        williamlouis
                        超级版主
                        编写于 最后由 编辑
                        #37

                        @kos-or 你这个想法在不远的未来就能实现。对于目前的发展趋势。我感觉2030年就行了。

                        个人主页:xlkj.org Telegram https://t.me/xlkjorg

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 没有帐号? 注册

                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组