跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. Mac小主机跑Minimax H3?其实Mac跑AI视频天生残疾,优化空间有限,M5 Ultra也不会太强。当下买什么样的苹果电脑,用它干什么最划算?

Mac小主机跑Minimax H3?其实Mac跑AI视频天生残疾,优化空间有限,M5 Ultra也不会太强。当下买什么样的苹果电脑,用它干什么最划算?

已定时 已固定 已锁定 已移动 AI硬件
apple-m5minimax视频生成
2 帖子 1 发布者 257 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT
    terryT
    terry
    易有太极
    编写于 最后由 编辑
    #1

    啊,评论区包括论坛都有人提问,为什么不谈谈 MiniMax H3 也能运行在苹果上面的事情,这是苹果生态的一次重大革新。啊,这些团队非常牛逼,让这个苹果小主机能够生产 AI 视频了。讲实话,我论坛很早就有人发了这个帖子,我第一时间就觉得这个事情,怎么讲,跟重金求子是一样的,又是一个骗局。因为什么?我在之前很早的视频中都讲过,为什么苹果的小主机跑不了 AI 视频。原因很简单嘛,你跑 AI 视频需要 BF16,需要 FP32 原始卷积算力,这是硬性的标准。苹果小主机的 BF16 指令集加速是有的,也不错,但是它也不能跟英伟达独立的旗舰显卡相比,只能说相当于一些中高端显卡,只是这个水平。

    那么加上它的大带宽,就是 M5 之后,Max 和 Ultra 拥有的 600 多 G 以及 1.2T 的大带宽,加上苹果本身对于 prefill 的优化,那么它在跑 MoE 模型,或者说在 M5 之后也能跑千问 27B 模型。在这种情况下,跑文本大模型的能力有了大大提升。最近像 Strata、SGLang 这些比较牛逼的架构都在向苹果迁移,都发布了苹果的官方版本。虽然与英伟达生态还是有一定差距,但是我们相信这个市场以后会不断繁荣起来。但是如果说你要跑 AI 视频,就必须要回答 BF16 以及 FP32 算力不足的问题,尤其是 FP32。苹果它都不是说算力差,它是残疾,是吧?它这一块是有严重残疾,非常低。这跟某些英伟达早期的一些专用矿卡,本质上没什么区别,就是它在 FP32 上面被重重地阉了一刀。

    苹果小主机跑Minimax H3.jpeg

    我们可以类比嘛,就说 FP32,我们现在跑 AI,它还有一定用处,是吧?但是早期你不仅要比 FP32,还要比 FP64,因为你只有支持 FP64,才能去搞科学运算、气象预测,搞这些复杂的系统工程。那你没有这块指令,或者说这个指令在这块很弱的话,你就搞不了。那现在呢,我们专门跑 AI 的显卡大部分已经不强调 FP64 了,甚至很多消费级显卡已经砍掉对它的支持了。但是 FP32 原始卷积算力在视频解码的 VAE 阶段非常重要,就必须要这个东西来算才行。因为你从 latent 文件、从潜在空间文件向视频解码的时候,它对精度的要求非常高,不能降级。这个时候 FP32 就能保证它解码的精度。那苹果在这一块有严重残疾,你再怎么往上面移植,巧妇难为无米之炊嘛。

    我也是苹果用户,但是我说了,我是 MacBook 以及 Mac mini 的用户。用论坛很多土豪的话来说,你这只是个入门级用户,是吧?那么我在我的机器上跑音频、跑图片都还能勉强玩一玩,跑视频是肯定玩不了的。但是呢,我也知道那些高端的、买了 Max 的,尤其是买了 M5 Max、买了 M5 Ultra 的人,他们想自己的小主机是一个全能主机,但是这个事情我只能讲事与愿违。苹果的 AI 生态一直以来都是被高估的,很多人非常无耻地吹苹果 AI 怎么怎么牛,那都是吹牛逼。比如早期苹果跑 MoE 大模型的时候,它的 M2、M3 Ultra 实际能力就跟狗屎一样,比起什么就不要说跟 4090 比算力了,比 4080 都不行,但是这个机器就被炒作上天。

    有一些自媒体作者愿意在这种非常烂的平台上折腾 MoE,甚至有人折腾稠密模型,希望能够跑出一个不错的数据,那究竟是为什么呢?其实原因很简单啊,就是我的频道都是这样,凡是我做跟苹果硬件相关的视频,广告费都是遥遥领先。你们明白吗?这样的视频分成非常高,就是苹果用户净值高。只要能跟苹果扯上关系,哪怕你这视频本身主题就是一坨狗屎,你就是来欺骗观众、把观众当凯子的,只要跟苹果相关,播放量可以,然后广告分成就很高。作为一个视频创作者,是天然有驱动力去谈苹果话题的。而且我们必须讲,苹果总体销量相比于 PC 不行,但是由于苹果用户都是高净值用户,它的用户群体影响力明显比 PC 要强。

    Apple M5 Ultra.jpg

    那我们就说,以 RTX Pro 6000 为例,一张也得十几万嘛,是吧?论坛买两张甚至四张 RTX Pro 6000 的人多的是。我做视频中也多次谈到 RTX Pro 6000,也有专门以 RTX Pro 6000 为主题的视频,但是问题是你在人家苹果的视频面前就是不能比啊。因为你的受众大部分都是像我这样的,像我们这样普通的技术屌丝,是吧?我们更关注这个东西干活的能力怎么样。我们觉得买到一张 RTX Pro 6000,哇,那真是三生荣幸、三生有幸,那就吭哧吭哧让它干活,噪音这些东西都不重要,是吧?电费,尤其生活在中国大陆,你说有几个人、几个家庭会在乎电费的?

    然后我们认为,如果有钱,我有个十多万块钱,一定会去买 RTX Pro 6000,我才不会去买苹果的什么 M5 Ultra 256G,那不是智商税吗?但是这并不妨碍人家有大量的人买苹果小主机。像有些企业买苹果小主机,比如 OpenAI、Anthropic,他们买苹果小主机是为了训练 AI 大模型、训练他们的 computer use,训练 AI 操作图形界面的能力。人家就愿意买苹果,首先适配苹果,Windows 的优先级都没有苹果高,因为人家的目标客户,这种开发者,大部分都是用苹果电脑。

    Mac Studio 正面.jpeg

    你像我虽然跑 AI 肯定是用 AMD 跟英伟达独立显卡,我也有 DDR3、DDR4、DDR5 平台的主机,也装着 Ubuntu、装着 Windows。可是我要驾驭这些 AI,我需要一个管家;平时我需要做开发,开发苹果跟安卓的 APP,需要开发维护我的网站、剪视频,我都是在 Mac mini 上完成的。为什么呢?因为苹果硬件生态的价值,AI 只是其中一部分。它本身低功耗、安静,系统稳定流畅,给你带来的生产力提升是立竿见影的。

    那么有些生产力用户,或者收入还不错的白领、金领,他们就希望自己买的小主机是一个全能的小主机,甚至他们有好几个苹果。他们可以用旧的 Mac mini、Mac Studio、MacBook Pro 或者 MacBook Air 办公,但是希望跑 AI 的时候,旁边放着一个同样优雅的机器。就是他们干净的桌面上,高端大气上档次、有逼格的桌面上,放的都是苹果,甚至显示器都是非常贵的苹果显示器。最次的也都买 LG 或者艺卓那种专门定制的高逼格显示器。

    那你说我们普通人,作为技术屌丝,现在还要不要买苹果硬件?我还是那句话,当年苹果跑大模型能力不行的时候,就有那么多人鼓吹。哪怕今天顶级的 M5 Ultra 256G,甚至 512G,相对于英伟达的小主机跑 AI 也没有什么优势。或者说在 512G 内存加持下,价格肯定也上天了,它与对应数量、对应价格的 DGX Spark 相比,没有什么生产力优势。但是贵就贵在它有逼格,是吧?苹果主机的硬件质量非常高,基本上如果不是一买来就坏了,长期使用不会因为老化坏掉。很多五六年前卖的 M1,像我就有 M1 MacBook,还有很多人买了 M1 Mac mini、Mac Studio,他们的主机状态现在都非常好。可能外面的金属漆面有些旧了、磨损或者氧化,但是整体机箱、整体机器质量还是杠杠的。

    m1 macbook.jpg

    但是我们不得不说,搞 AI 生产,无论跑大模型还是跑视频,确实没有英伟达生态好。这个东西无解,你要面对现实。如果买苹果就是为了跑 AI,我觉得你多半花的钱不值得。你花 3 万、4 万、10 万、15 万,都有对应更好的英伟达解决方案,它不是一个 AI 生产力工具。但是如果你要入手一台电脑来办公、轻度剪视频、轻度办公编程,现在 4000 块钱以内依然可以买到 Mac mini。如果受不了 16G 内存,想要上 24G 或者 32G,价格可能就要加到六七千、七八千,甚至加到上万。比如买 M6 32G 的 Mac mini,那就要 1 万块钱。我认为即便这样,1 万块钱买一个 32G 的 Mac mini 稍微有点贵,但是可以接受,因为苹果生态在这里。

    mac mini m4 接口大.jpeg

    就像我用 24G 的 Mac mini,是 4000 块钱买的,当时比较便宜,涨价之前买的,一出来我就买了。那么我平时接两个手机,接了 3 个 agent,每个 agent 跑多个会话,我还接了模拟器,还开了 3 个浏览器,每个浏览器开了十几个标签页,并且还有这些编程 IDE 在上面,而且我每天都要用剪映剪视频,它很多时候就是常态化开着。整个它是够用的,偶尔会出现内存耗尽的情况,就会变得比较慢,但是清理一下就行了。我从来不关机,我的 Mac mini 基本上除非系统死了才会关机,但是到现在还没遇到过。要么就是系统升级,我让它重启一下,平时根本不关机。

    在这种情况下,你去买适合自己办公的苹果电脑,我认为它的生态是值得的。它的系统稳定性、噪音之小、各方面的优雅,我觉得都值这个钱。除非你是那种非常牛逼的,就像我们问答有些用户说的:“我买豆浆都是买两碗,喝一碗倒一碗。”那你有钱,你考虑什么呢?就直接该上 512G 的 M5 Ultra 就上一个,同时再买个 4 卡、8 卡的 RTX Pro 6000,这不妨碍有钱吗?是吧?

    当然了,以上只是自己的观点。隔一段时间我们就会对苹果也好,还是对 AMD、英伟达或者英特尔这些硬件做一些评论。大家有什么需要交流讨论的,也欢迎到论坛发帖。论坛现在也在测试 APP,有愿意帮忙测试一下的,论坛会给 50 个积分,大家可以去看一下。

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    1
    • terryT
      terryT
      terry
      易有太极
      编写于 最后由 编辑
      #2

      Youtube Video

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      0

      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

      有了你的建议,这篇帖子会更精彩哦 💗

      注册 登录
      回复
      • 在新帖中回复
      登录后回复
      • 从旧到新
      • 从新到旧
      • 最多赞同


      • 登录

      • 登录或注册以进行搜索。
      • 第一个帖子
        最后一个帖子
      0
      • 版块
      • 最新
      • 标签
      • 热门
      • 用户
      • 群组