跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 618梭哈一把硬件配置,探索一下。

618梭哈一把硬件配置,探索一下。

已定时 已固定 已锁定 已移动 AI硬件
37 帖子 10 发布者 455 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Tony WangT 离线
    Tony WangT 离线
    Tony Wang
    超级版主
    编写于 最后由 编辑
    #22

    嗯, 对我来说, 能顺畅 27b+256上下文就够了. 图片视频我只是有兴趣试试而已.

    1 条回复 最后回复
    0
    • williamlouisW 在线
      williamlouisW 在线
      williamlouis
      超级版主
      编写于 最后由 编辑
      #23

      48G 绝对是 民用标兵了。 想搞点什么都够用了。而且 模型 优化工具都在更新。尤其显存上下文压缩技术。未来的显存需求只能越来越小。我是老想法。没有实操项目不需要搞那么高的显存。完全浪费。24G入门 32G优秀 48G放飞级别了。

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      kos orK 1 条回复 最后回复
      1
      • Tony WangT Tony Wang

        @williamlouis

        我看京东丽台的 72G 都 59999了 😠

        williamlouisW 在线
        williamlouisW 在线
        williamlouis
        超级版主
        编写于 最后由 williamlouis 编辑
        #24

        @Tony-Wang 操原地赚钱了。有要的吗?c44a1531-3bd5-4714-83f0-c8a3798afc6a-image.jpeg
        官方公版的我也下了一块。

        个人主页:xlkj.org Telegram https://t.me/xlkjorg

        1 条回复 最后回复
        0
        • Tony WangT 离线
          Tony WangT 离线
          Tony Wang
          超级版主
          编写于 最后由 编辑
          #25

          你土豪啊

          豆浆喝一碗 倒一碗
          显卡用一块 闲一块
          😉

          1 条回复 最后回复
          0
          • williamlouisW 在线
            williamlouisW 在线
            williamlouis
            超级版主
            编写于 最后由 编辑
            #26

            正常会退一块回去。准备用公版的就行了。客户说他无惧噪音。现在我想可能选 丽台的面大。

            个人主页:xlkj.org Telegram https://t.me/xlkjorg

            1 条回复 最后回复
            0
            • williamlouisW williamlouis

              48G 绝对是 民用标兵了。 想搞点什么都够用了。而且 模型 优化工具都在更新。尤其显存上下文压缩技术。未来的显存需求只能越来越小。我是老想法。没有实操项目不需要搞那么高的显存。完全浪费。24G入门 32G优秀 48G放飞级别了。

              kos orK 离线
              kos orK 离线
              kos or
              劳动模范 德高望重
              编写于 最后由 编辑
              #27

              @williamlouis 说:

              未来的显存需求只能越来越小

              對呀
              但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

              williamlouisW 1 条回复 最后回复
              0
              • kos orK kos or

                @williamlouis 说:

                未来的显存需求只能越来越小

                對呀
                但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣

                williamlouisW 在线
                williamlouisW 在线
                williamlouis
                超级版主
                编写于 最后由 编辑
                #28

                @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

                个人主页:xlkj.org Telegram https://t.me/xlkjorg

                kos orK 1 条回复 最后回复
                0
                • Tony WangT 离线
                  Tony WangT 离线
                  Tony Wang
                  超级版主
                  编写于 最后由 编辑
                  #29

                  一个LLM 做大脑
                  一个ComfyUI 跑几个diffusion相关的模型
                  一套IOT模型 (whisper+TTS)
                  一套RAG模型( embedding + rerank)
                  ......

                  我最大可能的应用场景是:
                  1, 27b+256K上下文
                  2, 一个生图的 ComfyUI (我不需要视频)
                  3, RAG 相关
                  4, IOT 相关
                  主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

                  如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

                  williamlouisW 1 条回复 最后回复
                  1
                  • Tony WangT Tony Wang

                    一个LLM 做大脑
                    一个ComfyUI 跑几个diffusion相关的模型
                    一套IOT模型 (whisper+TTS)
                    一套RAG模型( embedding + rerank)
                    ......

                    我最大可能的应用场景是:
                    1, 27b+256K上下文
                    2, 一个生图的 ComfyUI (我不需要视频)
                    3, RAG 相关
                    4, IOT 相关
                    主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.

                    如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...

                    williamlouisW 在线
                    williamlouisW 在线
                    williamlouis
                    超级版主
                    编写于 最后由 williamlouis 编辑
                    #30

                    @Tony-Wang 大哥你这有点 喧宾夺主啦。我们可以去你的帖子里聊。还有你的卡过7天无理由了吧?但是 没开封的话 确实可以退。而且京东应该很乐意。
                    但是这些天的升值你肯定是拿不到了。

                    个人主页:xlkj.org Telegram https://t.me/xlkjorg

                    1 条回复 最后回复
                    0
                    • williamlouisW williamlouis

                      @kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。

                      kos orK 离线
                      kos orK 离线
                      kos or
                      劳动模范 德高望重
                      编写于 最后由 编辑
                      #31

                      @williamlouis

                      沒用途就不用花錢了 省一點

                      williamlouisW 1 条回复 最后回复
                      0
                      • williamlouisW 在线
                        williamlouisW 在线
                        williamlouis
                        超级版主
                        编写于 最后由 编辑
                        #32

                        在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

                        个人主页:xlkj.org Telegram https://t.me/xlkjorg

                        Tony WangT 1 条回复 最后回复
                        0
                        • williamlouisW williamlouis

                          在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)

                          Tony WangT 离线
                          Tony WangT 离线
                          Tony Wang
                          超级版主
                          编写于 最后由 编辑
                          #33

                          @williamlouis 😊

                          我只是想象一下, 我还没回国呢, 得到月底才能到北京. 到时候再折腾.

                          1 条回复 最后回复
                          0
                          • kos orK kos or

                            @williamlouis

                            沒用途就不用花錢了 省一點

                            williamlouisW 在线
                            williamlouisW 在线
                            williamlouis
                            超级版主
                            编写于 最后由 编辑
                            #34

                            @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                            个人主页:xlkj.org Telegram https://t.me/xlkjorg

                            kos orK 1 条回复 最后回复
                            0
                            • Tony WangT Tony Wang

                              @williamlouis

                              我看京东丽台的 72G 都 59999了 😠

                              terryT 离线
                              terryT 离线
                              terry
                              超级版主
                              编写于 最后由 编辑
                              #35

                              @Tony-Wang 你上了72G会发现96G才够用,你需要明白你要那24G显存干嘛,如果是跑大模型,都是Qwen3.6 27b,反复折腾就是那玩意,显存足够且可多开,如果跑wan,你的卡哪怕1080P也够了,实际上wan就720P就好,多了意义不大,太慢,哪怕是RTX Pro 6000都慢。LTX有无限数字人工作流,48G也足够上1080P的。但是也很慢,我现在用的是720P的工作流,最高占用40G显存。你也要考虑本地开源模型的开发者,如果48G都不能跑,他们开发给谁用?大多数时候32G都够了。

                              油管:https://www.youtube.com/@抡锤者

                              1 条回复 最后回复
                              1
                              • williamlouisW williamlouis

                                @kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。

                                kos orK 离线
                                kos orK 离线
                                kos or
                                劳动模范 德高望重
                                编写于 最后由 编辑
                                #36

                                @williamlouis

                                我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                                williamlouisW 1 条回复 最后回复
                                0
                                • kos orK kos or

                                  @williamlouis

                                  我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利 🙂

                                  williamlouisW 在线
                                  williamlouisW 在线
                                  williamlouis
                                  超级版主
                                  编写于 最后由 编辑
                                  #37

                                  @kos-or 你这个想法在不远的未来就能实现。对于目前的发展趋势。我感觉2030年就行了。

                                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                                  1 条回复 最后回复
                                  0

                                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                  有了你的建议,这篇帖子会更精彩哦 💗

                                  注册 登录
                                  回复
                                  • 在新帖中回复
                                  登录后回复
                                  • 从旧到新
                                  • 从新到旧
                                  • 最多赞同


                                  • 登录

                                  • 没有帐号? 注册

                                  • 第一个帖子
                                    最后一个帖子
                                  0
                                  • 版块
                                  • 最新
                                  • 标签
                                  • 热门
                                  • 用户
                                  • 群组