現在買硬體的選擇

[怪物]

各位前輩大家好，
有一件困擾的事情想請問大家的建議，
我本來是想等月底MAC M5 512G開賣後買的，
但是因為出現STRATA這種技術，而且肯定會出現更多類似技術，我有點舉棋不定，
目前我考慮的方向有兩個:
1.買2台或2台MAC M5 512G專門跑大模型，我的電腦用來跑ComfyUI跟Hermes，
2.買一台伺服器，(原本是想買DELL R7725，裝384G的記憶體，跟2張PRO 6000 96G，)
這兩天跟GPT討論後想買AS-2126HS-TN，裝768G的記憶體，跟一張PRO 6000 96G，
當模型的載體，用STRATA來跑deepseek-v4.1 flash，
然後用我電腦的Hermes透過10G網路來讀取deepseek-v4.1 flash，

請問個位前輩，哪一種跑模型比較穩定快速，而且有前瞻性?
(至少買硬體的錢，不會1年後剩不到一半價值)
謝謝

[terry]

你这个随便买啊，买谁都能跑的很爽，你跑comfyui 1个RTX Pro6000就足够了，有多大的产能需求都能满足，效率杠杠的。跑大模型Mac M5 512G确实不错，它能跑DeepSeek V4.1 Flash，但是这个钱你要配Strata主机，能配很多台。不考虑噪音功耗，这样玩显然更划算。

[stxpnet]

大概看懂楼主的意思，但是低价捡漏比较难了，AI相关设备的投资，有点像股市。
咱们这批前几个月买好设备的小白，也不知道10月1号会杀出strata这匹黑马。
我敢说在 显卡之王 黄仁勋那里，这个公司 在质检过程中可以持续拥有这个星球上最强的算力吧？

【这是我的一种假想，NVIDIA要生产显卡和算力卡，就有理由质检，质检的过程中把显卡插到它的 基座集群上，那他可以365天不间断的用它的超级 AI集群（装载的是它自己的私有超级模型） 对全球 AI趋势的发展进行持续预测，如果要换显卡也不会影响这个集群进行持续推理，中间结果可以存盘。
从而保证NVIDIA的市值，以及业务策略永远保持在对它自身最有利的情形。 】

但是，这种情况下，在黄仁勋的内心深处，你觉得 他能100%保证他这个 AI集群 预测的事情能完全如他的发展吗？ 不太可能。因为他要制造显卡，必须依赖全球供应链，而这个供应链由这个世界上发生的很多大事决定，这些大事又是由人心决定的，而人心 ，是AI绝对预测不到的。

回到楼主的问题，咱们也无法预测将来的AI设备趋势。 只能尽情享受当下。

[imbiplaza ASUS]

@怪物
等nvidia 的gb300 单机版本。。。。

[Ray Wang]

Strata是个专门跑QFN的定制引擎，跑不了DeepSeek的。不过现在民间的趋势就是RAM Offload，肯定会有大把类似框架出现。

这个论坛的成分主要还是折腾党，我赌一根16GB DDR3...，大家肯定还是推荐第二种服务器，因为Mac不够折腾。

[怪物]

@Ray-Wang

我買了DELL的T620 舊服務器跟768G的DDR3記憶體，
但是還沒收到VGA轉HTMI線，所以還沒測試，
如果跑的起來大模型的話，我再買DDR5的服務器

[johnnybegood]

@怪物

成年人不做选择题， 都买， 买买买！

开玩笑旳。

看你要干什么。

电脑可不光是用来跑大模型的。

你要是纯纯为了跑大模型， 你这些钱， 应该去买组装好的8卡AI伺服器， 比你这两个配置可好用多了，价钱差不多的。

[fcys]

实际上现在我不太认为现阶段值得去投入太多的钱。软件的护城河基本上也跟一张纸似得，不见得非得nv的卡，从目前来看明年会有非常多的超大显存方案的推理加速卡出来

[怪物]

@johnnybegood 您好，
請問您說的8卡AI伺服器，是哪一種配備呢?
要到哪邊買呢?
謝謝

[johnnybegood]

@怪物 淘宝可搜 多卡 AI 服务器整机

[imbiplaza ASUS]

只要是10万美金左右的伺服器，让有需求的公司当做机器那样作为资本支出，变相合理的多。。。。

[tester12340]

省电 小噪音 建议mac

如果搞视频建议6000