跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 618梭哈一把硬件配置,探索一下。

618梭哈一把硬件配置,探索一下。

已定时 已固定 已锁定 已移动 AI硬件
37 帖子 10 发布者 455 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • kos orK kos or

    @williamlouis 说:

    未来的显存需求只能越来越小

    對呀
    但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

    williamlouisW 在线
    williamlouisW 在线
    williamlouis
    超级版主
    编写于 最后由 编辑
    #28

    @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

    个人主页:xlkj.org Telegram https://t.me/xlkjorg

    kos orK 1 条回复 最后回复
    0
    • Tony WangT 离线
      Tony WangT 离线
      Tony Wang
      超级版主
      编写于 最后由 编辑
      #29

      一个LLM 做大脑
      一个ComfyUI 跑几个diffusion相关的模型
      一套IOT模型 (whisper+TTS)
      一套RAG模型( embedding + rerank)
      ......

      我最大可能的应用场景是:
      1, 27b+256K上下文
      2, 一个生图的 ComfyUI (我不需要视频)
      3, RAG 相关
      4, IOT 相关
      主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

      如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

      williamlouisW 1 条回复 最后回复
      1
      • Tony WangT Tony Wang

        一个LLM 做大脑
        一个ComfyUI 跑几个diffusion相关的模型
        一套IOT模型 (whisper+TTS)
        一套RAG模型( embedding + rerank)
        ......

        我最大可能的应用场景是:
        1, 27b+256K上下文
        2, 一个生图的 ComfyUI (我不需要视频)
        3, RAG 相关
        4, IOT 相关
        主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

        如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

        williamlouisW 在线
        williamlouisW 在线
        williamlouis
        超级版主
        编写于 最后由 williamlouis 编辑
        #30

        @Tony-Wang 大哥你这有点 喧宾夺主啦。我们可以去你的帖子里聊。还有你的卡过7天无理由了吧?但是 没开封的话 确实可以退。而且京东应该很乐意。
        但是这些天的升值你肯定是拿不到了。

        个人主页:xlkj.org Telegram https://t.me/xlkjorg

        1 条回复 最后回复
        0
        • williamlouisW williamlouis

          @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

          kos orK 离线
          kos orK 离线
          kos or
          劳动模范 德高望重
          编写于 最后由 编辑
          #31

          @williamlouis

          沒用途就不用花錢了 省一點

          williamlouisW 1 条回复 最后回复
          0
          • williamlouisW 在线
            williamlouisW 在线
            williamlouis
            超级版主
            编写于 最后由 编辑
            #32

            在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

            个人主页:xlkj.org Telegram https://t.me/xlkjorg

            Tony WangT 1 条回复 最后回复
            0
            • williamlouisW williamlouis

              在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

              Tony WangT 离线
              Tony WangT 离线
              Tony Wang
              超级版主
              编写于 最后由 编辑
              #33

              @williamlouis 😊

              我只是想象一下, 我还没回国呢, 得到月底才能到北京. 到时候再折腾.

              1 条回复 最后回复
              0
              • kos orK kos or

                @williamlouis

                沒用途就不用花錢了 省一點

                williamlouisW 在线
                williamlouisW 在线
                williamlouis
                超级版主
                编写于 最后由 编辑
                #34

                @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                个人主页:xlkj.org Telegram https://t.me/xlkjorg

                kos orK 1 条回复 最后回复
                0
                • Tony WangT Tony Wang

                  @williamlouis

                  我看京东丽台的 72G 都 59999了 😠

                  terryT 离线
                  terryT 离线
                  terry
                  超级版主
                  编写于 最后由 编辑
                  #35

                  @Tony-Wang 你上了72G会发现96G才够用,你需要明白你要那24G显存干嘛,如果是跑大模型,都是Qwen3.6 27b,反复折腾就是那玩意,显存足够且可多开,如果跑wan,你的卡哪怕1080P也够了,实际上wan就720P就好,多了意义不大,太慢,哪怕是RTX Pro 6000都慢。LTX有无限数字人工作流,48G也足够上1080P的。但是也很慢,我现在用的是720P的工作流,最高占用40G显存。你也要考虑本地开源模型的开发者,如果48G都不能跑,他们开发给谁用?大多数时候32G都够了。

                  油管:https://www.youtube.com/@抡锤者

                  1 条回复 最后回复
                  1
                  • williamlouisW williamlouis

                    @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                    kos orK 离线
                    kos orK 离线
                    kos or
                    劳动模范 德高望重
                    编写于 最后由 编辑
                    #36

                    @williamlouis

                    我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                    williamlouisW 1 条回复 最后回复
                    0
                    • kos orK kos or

                      @williamlouis

                      我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                      williamlouisW 在线
                      williamlouisW 在线
                      williamlouis
                      超级版主
                      编写于 最后由 编辑
                      #37

                      @kos-or 你这个想法在不远的未来就能实现。对于目前的发展趋势。我感觉2030年就行了。

                      个人主页:xlkj.org Telegram https://t.me/xlkjorg

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组