跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 618梭哈一把硬件配置,探索一下。

618梭哈一把硬件配置,探索一下。

已定时 已固定 已锁定 已移动 热议 AI硬件
37 帖子 10 发布者 1.5k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • williamlouisW williamlouis

    48G 绝对是 民用标兵了。 想搞点什么都够用了。而且 模型 优化工具都在更新。尤其显存上下文压缩技术。未来的显存需求只能越来越小。我是老想法。没有实操项目不需要搞那么高的显存。完全浪费。24G入门 32G优秀 48G放飞级别了。

    kos orK
    kos orK
    kos or
    至尊皇帝
    发表于 最后由 编辑
    #27

    @williamlouis 说:

    未来的显存需求只能越来越小

    對呀
    但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

    williamlouisW 1 条回复 最后回复
    0
    • kos orK kos or

      @williamlouis 说:

      未来的显存需求只能越来越小

      對呀
      但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

      williamlouisW
      williamlouisW
      williamlouis
      易有太极
      发表于 最后由 编辑
      #28

      @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      kos orK 1 条回复 最后回复
      0
      • Tony WangT
        Tony WangT
        Tony Wang
        易有太极
        发表于 最后由 编辑
        #29

        一个LLM 做大脑
        一个ComfyUI 跑几个diffusion相关的模型
        一套IOT模型 (whisper+TTS)
        一套RAG模型( embedding + rerank)
        ......

        我最大可能的应用场景是:
        1, 27b+256K上下文
        2, 一个生图的 ComfyUI (我不需要视频)
        3, RAG 相关
        4, IOT 相关
        主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

        如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

        williamlouisW 1 条回复 最后回复
        1
        • Tony WangT Tony Wang

          一个LLM 做大脑
          一个ComfyUI 跑几个diffusion相关的模型
          一套IOT模型 (whisper+TTS)
          一套RAG模型( embedding + rerank)
          ......

          我最大可能的应用场景是:
          1, 27b+256K上下文
          2, 一个生图的 ComfyUI (我不需要视频)
          3, RAG 相关
          4, IOT 相关
          主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

          如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

          williamlouisW
          williamlouisW
          williamlouis
          易有太极
          发表于 最后由 williamlouis 编辑
          #30

          @Tony-Wang 大哥你这有点 喧宾夺主啦。我们可以去你的帖子里聊。还有你的卡过7天无理由了吧?但是 没开封的话 确实可以退。而且京东应该很乐意。
          但是这些天的升值你肯定是拿不到了。

          个人主页:xlkj.org Telegram https://t.me/xlkjorg

          1 条回复 最后回复
          0
          • williamlouisW williamlouis

            @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

            kos orK
            kos orK
            kos or
            至尊皇帝
            发表于 最后由 编辑
            #31

            @williamlouis

            沒用途就不用花錢了 省一點

            williamlouisW 1 条回复 最后回复
            0
            • williamlouisW
              williamlouisW
              williamlouis
              易有太极
              发表于 最后由 编辑
              #32

              在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              Tony WangT 1 条回复 最后回复
              0
              • williamlouisW williamlouis

                在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

                Tony WangT
                Tony WangT
                Tony Wang
                易有太极
                发表于 最后由 编辑
                #33

                @williamlouis 😊

                我只是想象一下, 我还没回国呢, 得到月底才能到北京. 到时候再折腾.

                1 条回复 最后回复
                0
                • kos orK kos or

                  @williamlouis

                  沒用途就不用花錢了 省一點

                  williamlouisW
                  williamlouisW
                  williamlouis
                  易有太极
                  发表于 最后由 编辑
                  #34

                  @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                  kos orK 1 条回复 最后回复
                  0
                  • Tony WangT Tony Wang

                    @williamlouis

                    我看京东丽台的 72G 都 59999了 😠

                    terryT
                    terryT
                    terry
                    易有太极
                    发表于 最后由 编辑
                    #35

                    @Tony-Wang 你上了72G会发现96G才够用,你需要明白你要那24G显存干嘛,如果是跑大模型,都是Qwen3.6 27b,反复折腾就是那玩意,显存足够且可多开,如果跑wan,你的卡哪怕1080P也够了,实际上wan就720P就好,多了意义不大,太慢,哪怕是RTX Pro 6000都慢。LTX有无限数字人工作流,48G也足够上1080P的。但是也很慢,我现在用的是720P的工作流,最高占用40G显存。你也要考虑本地开源模型的开发者,如果48G都不能跑,他们开发给谁用?大多数时候32G都够了。

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    1
                    • williamlouisW williamlouis

                      @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                      kos orK
                      kos orK
                      kos or
                      至尊皇帝
                      发表于 最后由 编辑
                      #36

                      @williamlouis

                      我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                      williamlouisW 1 条回复 最后回复
                      0
                      • kos orK kos or

                        @williamlouis

                        我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                        williamlouisW
                        williamlouisW
                        williamlouis
                        易有太极
                        发表于 最后由 编辑
                        #37

                        @kos-or 你这个想法在不远的未来就能实现。对于目前的发展趋势。我感觉2030年就行了。

                        个人主页:xlkj.org Telegram https://t.me/xlkjorg

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组