看了好多信息但缺乏一个思路来串联, 于是注册账户来发帖请教各路大神。
之前是兴趣性有一搭没一搭的研究agent 大概有6个月 但只是跑通并没什么生产用途。
现在在事业转换期,可能也会搬家到国外 所以借着这段空挡时间 继续学一学AI。(看了好多个主播的视频,也主要是主播的牛逼硬刚性格很对味 所以跑来论坛各种翻看, 于是来了兴致)
硬件方面
目前手头上 有个 MACSTUDIO M1 ULTRA 64GB 就是用来专职挂AGENT的 暂时背靠minimax 之前买了一年的coding plan 还在用着。(本地方面折腾了好多时间 从qwen2.5 3 3.5 3.8 一路试过来,发现这玩意儿本地跑模型确实垃圾,所以又把目标转向N卡)
显卡有 5090 + 3090 电脑内存也是64GB DDR5
本来有两张5090 5月份时候便宜卖掉了一张(当时以为MAC 64GB > 32G 5090,现在肠子都悔青了)。 手上的3090是刚买的 目前通过OCULINK (配1000W ATX3.1 铂金电源)连接的, 连接时才学习到主板上有各种通道问题。
论坛里大多都在推荐 双3090 + NVLINK,但毕竟跨系好像很鸡肋。
如果再买一张3090的话是不是要 另外组个主机 专门跑这两张卡? (是的话 主板是不是一定要PCIE4.0 x8 + x8, 考虑到现在的溢价可能会往DDR4 去配)
然后请问第二张3090 有没有可能 也通过OCULINK 连接? 或者 现在的这个OCULINK 可以通过 NVLINK 跟电源 可以连在一起?我查了,目前的电源是允许带两个3090。
再或者说我目前这个只要分配得当是可以操作的, 不需要再去折腾 另外一个3090 及多配一个主机?
附一张配置图
