Mac小主机跑Minimax H3?其实Mac跑AI视频天生残疾,优化空间有限,M5 Ultra也不会太强。当下买什么样的苹果电脑,用它干什么最划算?
-
啊,评论区包括论坛都有人提问,为什么不谈谈 MiniMax H3 也能运行在苹果上面的事情,这是苹果生态的一次重大革新。啊,这些团队非常牛逼,让这个苹果小主机能够生产 AI 视频了。讲实话,我论坛很早就有人发了这个帖子,我第一时间就觉得这个事情,怎么讲,跟重金求子是一样的,又是一个骗局。因为什么?我在之前很早的视频中都讲过,为什么苹果的小主机跑不了 AI 视频。原因很简单嘛,你跑 AI 视频需要 BF16,需要 FP32 原始卷积算力,这是硬性的标准。苹果小主机的 BF16 指令集加速是有的,也不错,但是它也不能跟英伟达独立的旗舰显卡相比,只能说相当于一些中高端显卡,只是这个水平。
那么加上它的大带宽,就是 M5 之后,Max 和 Ultra 拥有的 600 多 G 以及 1.2T 的大带宽,加上苹果本身对于 prefill 的优化,那么它在跑 MoE 模型,或者说在 M5 之后也能跑千问 27B 模型。在这种情况下,跑文本大模型的能力有了大大提升。最近像 Strata、SGLang 这些比较牛逼的架构都在向苹果迁移,都发布了苹果的官方版本。虽然与英伟达生态还是有一定差距,但是我们相信这个市场以后会不断繁荣起来。但是如果说你要跑 AI 视频,就必须要回答 BF16 以及 FP32 算力不足的问题,尤其是 FP32。苹果它都不是说算力差,它是残疾,是吧?它这一块是有严重残疾,非常低。这跟某些英伟达早期的一些专用矿卡,本质上没什么区别,就是它在 FP32 上面被重重地阉了一刀。

我们可以类比嘛,就说 FP32,我们现在跑 AI,它还有一定用处,是吧?但是早期你不仅要比 FP32,还要比 FP64,因为你只有支持 FP64,才能去搞科学运算、气象预测,搞这些复杂的系统工程。那你没有这块指令,或者说这个指令在这块很弱的话,你就搞不了。那现在呢,我们专门跑 AI 的显卡大部分已经不强调 FP64 了,甚至很多消费级显卡已经砍掉对它的支持了。但是 FP32 原始卷积算力在视频解码的 VAE 阶段非常重要,就必须要这个东西来算才行。因为你从 latent 文件、从潜在空间文件向视频解码的时候,它对精度的要求非常高,不能降级。这个时候 FP32 就能保证它解码的精度。那苹果在这一块有严重残疾,你再怎么往上面移植,巧妇难为无米之炊嘛。
我也是苹果用户,但是我说了,我是 MacBook 以及 Mac mini 的用户。用论坛很多土豪的话来说,你这只是个入门级用户,是吧?那么我在我的机器上跑音频、跑图片都还能勉强玩一玩,跑视频是肯定玩不了的。但是呢,我也知道那些高端的、买了 Max 的,尤其是买了 M5 Max、买了 M5 Ultra 的人,他们想自己的小主机是一个全能主机,但是这个事情我只能讲事与愿违。苹果的 AI 生态一直以来都是被高估的,很多人非常无耻地吹苹果 AI 怎么怎么牛,那都是吹牛逼。比如早期苹果跑 MoE 大模型的时候,它的 M2、M3 Ultra 实际能力就跟狗屎一样,比起什么就不要说跟 4090 比算力了,比 4080 都不行,但是这个机器就被炒作上天。
有一些自媒体作者愿意在这种非常烂的平台上折腾 MoE,甚至有人折腾稠密模型,希望能够跑出一个不错的数据,那究竟是为什么呢?其实原因很简单啊,就是我的频道都是这样,凡是我做跟苹果硬件相关的视频,广告费都是遥遥领先。你们明白吗?这样的视频分成非常高,就是苹果用户净值高。只要能跟苹果扯上关系,哪怕你这视频本身主题就是一坨狗屎,你就是来欺骗观众、把观众当凯子的,只要跟苹果相关,播放量可以,然后广告分成就很高。作为一个视频创作者,是天然有驱动力去谈苹果话题的。而且我们必须讲,苹果总体销量相比于 PC 不行,但是由于苹果用户都是高净值用户,它的用户群体影响力明显比 PC 要强。

那我们就说,以 RTX Pro 6000 为例,一张也得十几万嘛,是吧?论坛买两张甚至四张 RTX Pro 6000 的人多的是。我做视频中也多次谈到 RTX Pro 6000,也有专门以 RTX Pro 6000 为主题的视频,但是问题是你在人家苹果的视频面前就是不能比啊。因为你的受众大部分都是像我这样的,像我们这样普通的技术屌丝,是吧?我们更关注这个东西干活的能力怎么样。我们觉得买到一张 RTX Pro 6000,哇,那真是三生荣幸、三生有幸,那就吭哧吭哧让它干活,噪音这些东西都不重要,是吧?电费,尤其生活在中国大陆,你说有几个人、几个家庭会在乎电费的?
然后我们认为,如果有钱,我有个十多万块钱,一定会去买 RTX Pro 6000,我才不会去买苹果的什么 M5 Ultra 256G,那不是智商税吗?但是这并不妨碍人家有大量的人买苹果小主机。像有些企业买苹果小主机,比如 OpenAI、Anthropic,他们买苹果小主机是为了训练 AI 大模型、训练他们的 computer use,训练 AI 操作图形界面的能力。人家就愿意买苹果,首先适配苹果,Windows 的优先级都没有苹果高,因为人家的目标客户,这种开发者,大部分都是用苹果电脑。

你像我虽然跑 AI 肯定是用 AMD 跟英伟达独立显卡,我也有 DDR3、DDR4、DDR5 平台的主机,也装着 Ubuntu、装着 Windows。可是我要驾驭这些 AI,我需要一个管家;平时我需要做开发,开发苹果跟安卓的 APP,需要开发维护我的网站、剪视频,我都是在 Mac mini 上完成的。为什么呢?因为苹果硬件生态的价值,AI 只是其中一部分。它本身低功耗、安静,系统稳定流畅,给你带来的生产力提升是立竿见影的。
那么有些生产力用户,或者收入还不错的白领、金领,他们就希望自己买的小主机是一个全能的小主机,甚至他们有好几个苹果。他们可以用旧的 Mac mini、Mac Studio、MacBook Pro 或者 MacBook Air 办公,但是希望跑 AI 的时候,旁边放着一个同样优雅的机器。就是他们干净的桌面上,高端大气上档次、有逼格的桌面上,放的都是苹果,甚至显示器都是非常贵的苹果显示器。最次的也都买 LG 或者艺卓那种专门定制的高逼格显示器。
那你说我们普通人,作为技术屌丝,现在还要不要买苹果硬件?我还是那句话,当年苹果跑大模型能力不行的时候,就有那么多人鼓吹。哪怕今天顶级的 M5 Ultra 256G,甚至 512G,相对于英伟达的小主机跑 AI 也没有什么优势。或者说在 512G 内存加持下,价格肯定也上天了,它与对应数量、对应价格的 DGX Spark 相比,没有什么生产力优势。但是贵就贵在它有逼格,是吧?苹果主机的硬件质量非常高,基本上如果不是一买来就坏了,长期使用不会因为老化坏掉。很多五六年前卖的 M1,像我就有 M1 MacBook,还有很多人买了 M1 Mac mini、Mac Studio,他们的主机状态现在都非常好。可能外面的金属漆面有些旧了、磨损或者氧化,但是整体机箱、整体机器质量还是杠杠的。

但是我们不得不说,搞 AI 生产,无论跑大模型还是跑视频,确实没有英伟达生态好。这个东西无解,你要面对现实。如果买苹果就是为了跑 AI,我觉得你多半花的钱不值得。你花 3 万、4 万、10 万、15 万,都有对应更好的英伟达解决方案,它不是一个 AI 生产力工具。但是如果你要入手一台电脑来办公、轻度剪视频、轻度办公编程,现在 4000 块钱以内依然可以买到 Mac mini。如果受不了 16G 内存,想要上 24G 或者 32G,价格可能就要加到六七千、七八千,甚至加到上万。比如买 M6 32G 的 Mac mini,那就要 1 万块钱。我认为即便这样,1 万块钱买一个 32G 的 Mac mini 稍微有点贵,但是可以接受,因为苹果生态在这里。

就像我用 24G 的 Mac mini,是 4000 块钱买的,当时比较便宜,涨价之前买的,一出来我就买了。那么我平时接两个手机,接了 3 个 agent,每个 agent 跑多个会话,我还接了模拟器,还开了 3 个浏览器,每个浏览器开了十几个标签页,并且还有这些编程 IDE 在上面,而且我每天都要用剪映剪视频,它很多时候就是常态化开着。整个它是够用的,偶尔会出现内存耗尽的情况,就会变得比较慢,但是清理一下就行了。我从来不关机,我的 Mac mini 基本上除非系统死了才会关机,但是到现在还没遇到过。要么就是系统升级,我让它重启一下,平时根本不关机。
在这种情况下,你去买适合自己办公的苹果电脑,我认为它的生态是值得的。它的系统稳定性、噪音之小、各方面的优雅,我觉得都值这个钱。除非你是那种非常牛逼的,就像我们问答有些用户说的:“我买豆浆都是买两碗,喝一碗倒一碗。”那你有钱,你考虑什么呢?就直接该上 512G 的 M5 Ultra 就上一个,同时再买个 4 卡、8 卡的 RTX Pro 6000,这不妨碍有钱吗?是吧?
当然了,以上只是自己的观点。隔一段时间我们就会对苹果也好,还是对 AMD、英伟达或者英特尔这些硬件做一些评论。大家有什么需要交流讨论的,也欢迎到论坛发帖。论坛现在也在测试 APP,有愿意帮忙测试一下的,论坛会给 50 个积分,大家可以去看一下。
-