現在買硬體的選擇

[stxpnet]

大概看懂楼主的意思，但是低价捡漏比较难了，AI相关设备的投资，有点像股市。
咱们这批前几个月买好设备的小白，也不知道10月1号会杀出strata这匹黑马。
我敢说在 显卡之王 黄仁勋那里，这个公司 在质检过程中可以持续拥有这个星球上最强的算力吧？

【这是我的一种假想，NVIDIA要生产显卡和算力卡，就有理由质检，质检的过程中把显卡插到它的 基座集群上，那他可以365天不间断的用它的超级 AI集群（装载的是它自己的私有超级模型） 对全球 AI趋势的发展进行持续预测，如果要换显卡也不会影响这个集群进行持续推理，中间结果可以存盘。
从而保证NVIDIA的市值，以及业务策略永远保持在对它自身最有利的情形。 】

但是，这种情况下，在黄仁勋的内心深处，你觉得 他能100%保证他这个 AI集群 预测的事情能完全如他的发展吗？ 不太可能。因为他要制造显卡，必须依赖全球供应链，而这个供应链由这个世界上发生的很多大事决定，这些大事又是由人心决定的，而人心 ，是AI绝对预测不到的。

回到楼主的问题，咱们也无法预测将来的AI设备趋势。 只能尽情享受当下。

[imbiplaza ASUS]

@怪物
等nvidia 的gb300 单机版本。。。。

[Ray Wang]

Strata是个专门跑QFN的定制引擎，跑不了DeepSeek的。不过现在民间的趋势就是RAM Offload，肯定会有大把类似框架出现。

这个论坛的成分主要还是折腾党，我赌一根16GB DDR3...，大家肯定还是推荐第二种服务器，因为Mac不够折腾。

[怪物]

@Ray-Wang

我買了DELL的T620 舊服務器跟768G的DDR3記憶體，
但是還沒收到VGA轉HTMI線，所以還沒測試，
如果跑的起來大模型的話，我再買DDR5的服務器

[johnnybegood]

@怪物

成年人不做选择题， 都买， 买买买！

开玩笑旳。

看你要干什么。

电脑可不光是用来跑大模型的。

你要是纯纯为了跑大模型， 你这些钱， 应该去买组装好的8卡AI伺服器， 比你这两个配置可好用多了，价钱差不多的。

[fcys]

实际上现在我不太认为现阶段值得去投入太多的钱。软件的护城河基本上也跟一张纸似得，不见得非得nv的卡，从目前来看明年会有非常多的超大显存方案的推理加速卡出来

[怪物]

@johnnybegood 您好，
請問您說的8卡AI伺服器，是哪一種配備呢?
要到哪邊買呢?
謝謝

[johnnybegood]

@怪物 淘宝可搜 多卡 AI 服务器整机

[imbiplaza ASUS]

只要是10万美金左右的伺服器，让有需求的公司当做机器那样作为资本支出，变相合理的多。。。。

[tester12340]

省电 小噪音 建议mac

如果搞视频建议6000