跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 新手 最近配置好的主機

新手 最近配置好的主機

已定时 已固定 已锁定 已移动 随便聊聊
本地模型多卡部署
6 帖子 4 发布者 289 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 好米玉好
    好米玉好
    好米玉
    编写于 最后由 编辑
    #1

    最近終於用好了 Q3 Q4 感覺智力真的有差 好像慢一點把工作做好比較好

    大部分主機都是之前買的 剛好翻出來玩本地AI

    新買的 E5 2673 V3 +X99 +128G DDR3 1866 + 舊卡3090 跑 Q4XL 是否要捕到256G?

    E5 2698 V4 +DDR4 64G+ 新買的 5060TI 16G 跑一些COMFY 或是自己開Q3S 跑資料

    AMD 7950 +DDR5 64G + 新買的 INTEL B70 跑COMFY 為主 剩下就自己玩遊戲等等

    AMD3600 + 32G(等記憶體送修回來會捕到64G) +舊卡3060TI 8G 給AI亂搞用的主機

    大家都用本地跑什麼? 感覺已經可以交辦大部分事情給電腦了

    也在考慮補卡的問題 有點想玩雙卡...

    XTX要淘寶買 保固不好處理? 所以沒考慮

    5060TI 16G 跟 5070TI 16 差很多 但是這台主機省電給他跑Q3 整理些資料感覺還行 不然有點後悔買60TI

    INTEL B70 32G 感覺跑COMFY還行 玩遊戲好像對標5060TI 本地AI沒跑過

    R9700 最近看到有貨 想買 但是買一張9700 = 可以搞雙卡B70了

    3090 想買 但是都過保的 也是經過挖礦 怕怕的 不敢買 不然就是雙卡3090 最讚吧?

    3080 20G有考慮看看 最近又在煩惱卡了 怕買不到又漲價XD

    結果一看 硬碟也超貴 怎麼搞呀XD 目前先這樣玩幾天 又怕顯卡狂漲

    J Z 0J 1 条回复 最后回复
    1
    • ralfzhuR
      ralfzhuR
      ralfzhu
      体面乡绅 硕果累累
      编写于 最后由 编辑
      #2

      确实3090最适合你

      1 条回复 最后回复
      1
      • 好米玉好 好米玉

        最近終於用好了 Q3 Q4 感覺智力真的有差 好像慢一點把工作做好比較好

        大部分主機都是之前買的 剛好翻出來玩本地AI

        新買的 E5 2673 V3 +X99 +128G DDR3 1866 + 舊卡3090 跑 Q4XL 是否要捕到256G?

        E5 2698 V4 +DDR4 64G+ 新買的 5060TI 16G 跑一些COMFY 或是自己開Q3S 跑資料

        AMD 7950 +DDR5 64G + 新買的 INTEL B70 跑COMFY 為主 剩下就自己玩遊戲等等

        AMD3600 + 32G(等記憶體送修回來會捕到64G) +舊卡3060TI 8G 給AI亂搞用的主機

        大家都用本地跑什麼? 感覺已經可以交辦大部分事情給電腦了

        也在考慮補卡的問題 有點想玩雙卡...

        XTX要淘寶買 保固不好處理? 所以沒考慮

        5060TI 16G 跟 5070TI 16 差很多 但是這台主機省電給他跑Q3 整理些資料感覺還行 不然有點後悔買60TI

        INTEL B70 32G 感覺跑COMFY還行 玩遊戲好像對標5060TI 本地AI沒跑過

        R9700 最近看到有貨 想買 但是買一張9700 = 可以搞雙卡B70了

        3090 想買 但是都過保的 也是經過挖礦 怕怕的 不敢買 不然就是雙卡3090 最讚吧?

        3080 20G有考慮看看 最近又在煩惱卡了 怕買不到又漲價XD

        結果一看 硬碟也超貴 怎麼搞呀XD 目前先這樣玩幾天 又怕顯卡狂漲

        J Z 0J
        J Z 0J
        J Z 0
        体面乡绅 硕果累累
        编写于 最后由 编辑
        #3

        @好米玉 新買的 E5 2673 V3 +X99 +128G DDR3 1866 + 舊卡3090 跑 Q4XL 是否要捕到256G? 不用,但 ple io必须 mmap, 不能ram

        1 条回复 最后回复
        1
        • stxpnetS
          stxpnetS
          stxpnet
          王侯将相
          编写于 最后由 编辑
          #4

          补不补到256G,看你缓存需求大不。 128G我感觉基本足够了,再多也是增加STARTA的缓存会话数以及缓存占用的RAM容量,这些要根据你的实际场景来观察确定。

          image.jpeg

          双卡3090 PCIE 4.0 16X/16X

          白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
          夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
          1 条回复 最后回复
          0
          • 好米玉好
            好米玉好
            好米玉
            编写于 最后由 编辑
            #5

            現在只會打字給AI自己跑 看他跑起來很厲害XD 優化那些還不懂

            J Z 0J 1 条回复 最后回复
            0
            • 好米玉好 好米玉

              現在只會打字給AI自己跑 看他跑起來很厲害XD 優化那些還不懂

              J Z 0J
              J Z 0J
              J Z 0
              体面乡绅 硕果累累
              编写于 最后由 编辑
              #6

              @好米玉 别慌,大家都差不多,这里能完全手动设置每个参数的也不多

              1 条回复 最后回复
              0

              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

              厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

              有了你的建议,这篇帖子会更精彩哦 💗

              注册 登录
              回复
              • 在新帖中回复
              登录后回复
              • 从旧到新
              • 从新到旧
              • 最多赞同


              • 登录

              • 登录或注册以进行搜索。
              • 第一个帖子
                最后一个帖子
              0
              • 版块
              • 最新
              • 标签
              • 热门
              • 用户
              • 群组