跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 还在入门的小白 请大神指教配置

还在入门的小白 请大神指教配置

已定时 已固定 已锁定 已移动 AI硬件
rtx5090rtx3090多卡部署
4 帖子 2 发布者 146 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Hao ChenH
    Hao ChenH
    Hao Chen
    编写于 最后由 编辑
    #1

    看了好多信息但缺乏一个思路来串联, 于是注册账户来发帖请教各路大神。

    之前是兴趣性有一搭没一搭的研究agent 大概有6个月 但只是跑通并没什么生产用途。
    现在在事业转换期,可能也会搬家到国外 所以借着这段空挡时间 继续学一学AI。(看了好多个主播的视频,也主要是主播的牛逼硬刚性格很对味 所以跑来论坛各种翻看, 于是来了兴致)

    硬件方面
    目前手头上 有个 MACSTUDIO M1 ULTRA 64GB 就是用来专职挂AGENT的 暂时背靠minimax 之前买了一年的coding plan 还在用着。(本地方面折腾了好多时间 从qwen2.5 3 3.5 3.8 一路试过来,发现这玩意儿本地跑模型确实垃圾,所以又把目标转向N卡)

    显卡有 5090 + 3090 电脑内存也是64GB DDR5
    本来有两张5090 5月份时候便宜卖掉了一张(当时以为MAC 64GB > 32G 5090,现在肠子都悔青了)。 手上的3090是刚买的 目前通过OCULINK (配1000W ATX3.1 铂金电源)连接的, 连接时才学习到主板上有各种通道问题。

    论坛里大多都在推荐 双3090 + NVLINK,但毕竟跨系好像很鸡肋。

    如果再买一张3090的话是不是要 另外组个主机 专门跑这两张卡? (是的话 主板是不是一定要PCIE4.0 x8 + x8, 考虑到现在的溢价可能会往DDR4 去配)
    然后请问第二张3090 有没有可能 也通过OCULINK 连接? 或者 现在的这个OCULINK 可以通过 NVLINK 跟电源 可以连在一起?我查了,目前的电源是允许带两个3090。

    再或者说我目前这个只要分配得当是可以操作的, 不需要再去折腾 另外一个3090 及多配一个主机?

    附一张配置图
    11aa7dcb611eb584569aa0c51dfc14a8.jpg

    1 条回复 最后回复
    1
    • terryT
      terryT
      terry
      超级版主
      编写于 最后由 terry 编辑
      #2

      我建议你在已经有电源的情况下,扔掉显卡坞,配置一个X99的洋垃圾,上64G内存,双3090,尝试NVLink,没有NVLink双3090也很强。5090放到现在的主机上。效率会爆炸,双3090当下跑LLM是相当能打,上128G DDR3更好。它也能单卡跑ComfyUI,而且你有32G的5090兜底,什么都能跑,这样生产力直接爆满。溢出屏幕。不要再买显卡坞了,那效率不堪入目。

      弄好了记得来发装备秀,测试结果。

      油管:https://www.youtube.com/@抡锤者

      Hao ChenH 1 条回复 最后回复
      1
      • terryT terry

        我建议你在已经有电源的情况下,扔掉显卡坞,配置一个X99的洋垃圾,上64G内存,双3090,尝试NVLink,没有NVLink双3090也很强。5090放到现在的主机上。效率会爆炸,双3090当下跑LLM是相当能打,上128G DDR3更好。它也能单卡跑ComfyUI,而且你有32G的5090兜底,什么都能跑,这样生产力直接爆满。溢出屏幕。不要再买显卡坞了,那效率不堪入目。

        弄好了记得来发装备秀,测试结果。

        Hao ChenH
        Hao ChenH
        Hao Chen
        编写于 最后由 编辑
        #3

        @terry 我目前在新西兰 这个小地方 X99是找不到, 但是思路应该是 买 二手或者淘汰的 服务器主板+CPU对吧。

        terryT 1 条回复 最后回复
        0
        • Hao ChenH Hao Chen

          @terry 我目前在新西兰 这个小地方 X99是找不到, 但是思路应该是 买 二手或者淘汰的 服务器主板+CPU对吧。

          terryT
          terryT
          terry
          超级版主
          编写于 最后由 编辑
          #4

          @Hao-Chen 1,可行,总之就是省内存的钱。服务器主板可以用很久,价格合适就行。2,建议你可以研究下海淘,JD,天猫,拼夕夕有的店铺发海外的。X99的板子国内华南金牌和精粤等产品质量十分稳定。

          油管:https://www.youtube.com/@抡锤者

          1 条回复 最后回复
          1

          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

          有了你的建议,这篇帖子会更精彩哦 💗

          注册 登录
          回复
          • 在新帖中回复
          登录后回复
          • 从旧到新
          • 从新到旧
          • 最多赞同


          • 登录

          • 登录或注册以进行搜索。
          • 第一个帖子
            最后一个帖子
          0
          • 版块
          • 最新
          • 标签
          • 热门
          • 用户
          • 群组