论坛有这个装备秀版块啊，大家可以看一看，什么四卡 R9700、四卡 RTX Pro 6000、八卡 4090 48G，这些都是有的。你看这么多大神在展示自己的装备，你们要打我脸是可以的啊，可以到这个装备秀版块。版块已经开了将近一个星期了，有 34 个人发自己的装备。AI 硬件版块呢，其实很多人在发其他测评文章的时候，也发了自己的装备，少说有百十来套装备是有的啊。你们可以认真看一下，我估计得有 200 人发自己的装备。人家不仅有这个硬件实拍，也有操作系统的截图，然后也有详细的测评文章，还有很多人把自己的测评数据用的库、用的模型权重都放到了 GitHub 上，你们可以去直接抄作业。

就是我欢迎大家在这个论坛来发详细的帖子，秀自己的装备来打脸我，是吧？意思就是我反正评价得不对嘛，这很正常的啊，我也不可能什么装备都有。但是我的 AI 服务器、我的个人服务器，好歹也是什么 4090 48G，也有 7900 XTX，我还有很多其他的 AI 设备，好歹也是有这么几万块钱的价值。你们装逼的时候，尽量以事实来打脸我啊，千万不要在那里打嘴炮。我是最见不得有人在评论区装逼的，因为你们很多人是什么消费水平，讲实话，哎呀，我见的人多了。我看你们打打字、看你们聊的内容，我一眼就看得出来了，就没有意思。好吧，就用实际的，像这些哥们一样，用实际的例子来证明自己。

那么我虽然没杀过猪，但是我苹果平台、AMD、英伟达平台我都有，是吧？我见过猪跑，我大致类比一下，结合论坛的这些实测用户。论坛有两个用户发了非常详细的测试。这些人要么是实拍了自己的设备，然后开放了自己的测试工具、测试日志，包括权重这些；要么就是我们论坛长久以来，发帖经过大家公认、评价非常高的，有这种超凡大师或者更高等级头衔的人。那比你在评论区在那里装逼要可靠得多。

Johnny be good，我们这位超凡大师发的这个对比帖子里，M5 Ultra 是 256G 统一内存，1.2T 的带宽，然后它就不需要跨机通信，因为它是单机嘛。它虽然是两个 M5 Max 合并的，但是它是可以片上内存统一寻址。这个实测带宽，内存总线直连，数字是非常高的啊，已经失去了把它打出来的意义。软件推理栈是 llama.cpp、MLX 架构，实测的模型是 DeepSeek V4.1 Flash 的 4 比特版本，还有千问 3.8 Flash Next。但是价格可能比较贵，要 10 万块钱左右，10 万出头吧；它的 8 比特版本可能要 11 万块钱。

然后这个双 DGX Spark 也是 256G 内存，但是它是两个小主机，要通过高速互联线缆。它的单节点带宽是 273G 每秒，这个跟 4060 Ti 是一个水平。然后它的双机互联是 200G，这个就非常夸张了，基本上赶上它显卡的带宽了。嗯，就是在这种情况下，你不要说 200G 每秒了，你能达到个 50 GB 每秒，跑 MoE 模型的时候就不存在什么带宽瓶颈了。这些带宽数字参考一下就行了，实际上用不了这么夸张，因为这个卡的算力……啊对了，我把这两个芯片的算力讲一下。

M5 Max 单个芯片的算力，大概相当于 4060 Ti、5060 Ti 的水平。它比 DGX Spark 或者 RTX Spark 单芯片的能力要差一点。而 DGX Spark 跟 RTX Spark 相当于 4070、5070 的水平。M5 Ultra 的话，那它就是乘以 2嘛，相当于有两颗 4060 Ti 或者 5060 Ti，但是它的带宽非常高。单个 M5 Max 的带宽是 614G，双机的话就是 1.2T，它的带宽要比 DGX Spark 双机强很多，单机也要强很多。

他说这个 256G 的 M5 Ultra 大概是 10 万出头的价格，两台 DGX Spark 大概 1 万美金。其实不是的，DGX Spark 已经涨起来了。这个是京东自营的价格，大家可以看一看，它也得要 10 万块钱。它那些便宜的是因为有一些是低配的，4 万块钱能够买到的，硬盘是 1TB 的，并不是 4TB 的，这个还是有点差价的。英伟达官方的两台是 10 万块钱。就说价格不应该成为你选择小主机的影响因素。

那么根据 Johnny be good 的测试，双方在大模型的吞吐、decode 速度上相差无几。无论是跑千问 3.8 Flash，还是 DeepSeek V4.1 Flash，M5 Ultra 的表现要略好一点点，比 DGX Spark 双机好一点。也就是说，M5 Max 的单机表现也要比 RTX Spark 或者 DGX Spark 单机表现强一点点。但是一旦到长上下文、多并发，这个英伟达的优势就来了。长上下文的时候，M5 的首 token 延迟要比 DGX Spark 高很多；在多并发之后，它的排队时长要高出一倍还多，而且它的 decode 速度也会降下来。

但是我必须说，它这个框架选得有问题。M5 用的是 llama.cpp、MLX 框架，然后 DGX Spark 上用的是 vLLM。我们必须说，vLLM 在并发吞吐上本身就是要吊打 llama.cpp 的，甚至比 SGLang 要强很多。如果不是特别长的上下文，32K 上下文以内，SGLang 跟它都不能比，就不要说 llama.cpp 了。这个测试范例我认为选得有问题，不能反映 M5 Ultra 的实力，也不能反映 M5 Max 的实力。

如果是跑 ComfyUI 的话，有很多酸人可能不懂，你就算是 M5 Ultra，跑 AI 音视频也完全不如 DGX Spark。原因很简单，因为苹果的 FP32 算力非常低，它的 BF16 算力也比不上单颗芯片的 M5 Max，也不如 RTX 或者 DGX Spark。这是算力限制，不仅仅是带宽重要，算力其实也很重要。而且苹果的生态也不好。虽然现在有些开源项目把 ComfyUI 的视频模型，或者通过其他的一些架构，特殊架构移植到 Mac 生态上，但是它们的表现都没有英伟达生态好，这一点毫无疑问。英伟达的 DGX Spark、RTX Spark 是要胜出的。

那么我们再看一看 jw张，他发了自己的实际装备照片，不同角度都有，包括工作室。人家也说了，会把测试用例、模型权重这些东西都放到 GitHub 上，他也给了链接。这个可信度非常高，杠精可以自己去检验一下。人家是 10 天前拿到的 Mac Studio M5 Ultra 256G。

我们看他的测试数据。他测试的模型是 DeepSeek V4.1 Flash，但是测的是 Q3 版本，也就是 Q3 量化；还有千问 3.8 Flash 的 Q6 量化版本，后面写的是 Q6 跟 Q8 混合量化，就是 6 比特跟 8 比特的混合量化版本。测试结果我就直接照搬嘛。32K 上下文的话，prefill 速度是 3,800 多，这个还是非常可用的，首 token 延迟大概是 8.6 秒，也可以接受。

如果是 64K 上下文，DeepSeek 冷请求是 43 到 44 秒之间；如果缓存命中，大概是 5 秒到 6 秒之间。这个缓存复用效率还是比较高的。然后如果是千问，在不到 8K 的提示词情况下，冷请求是 2.13 秒，缓存命中后 0.16 秒，首 token 就输出了。如果是 32K，冷请求是 8.6 秒，然后缓存命中后是 0.28 秒，这个速度相当快。可见刚才我说 Johnny be good 的选型有问题，他选择的框架测试有问题。jw张用的就是 MLX 框架。llama.cpp 在 Mac 上面跑，它的底层也有可能可以选择 MLX，包括像 SGLang 这样的专业推理框架，在苹果上面跑的话，也可以把底层驱动选择 MLX 框架，那效率会高很多。

另外我必须要说，jw张只是测试了 64K 上下文，这就是 AI agent 的入门标准。我认为在这种情况下，它的首 token 延迟非常可用。但是很多人还是会关注多并发、长上下文，我就必须跟大家讲，你在苹果上面，现在跑长上下文、多并发最好的应该还是 SGLang。但是 SGLang 目前的官方移植版本，就是我一个多月前做视频的时候，那个时候的官方版本还没有支持 Radix 缓存树，就是它不能跨会话共用前缀缓存，然后它的 prefill 也不能进行增量计算。这个就是 SGLang 最大的优势没了。但是在我当时做视频的时候，社区已经有明确可用的版本，只不过有些小 bug。他们把 SGLang 核心的 Radix 缓存树移植到了苹果平台上。

我相信要不了多久，官方就会合并这个带 Radix 缓存树的全功能版本，因为毕竟它官方已经发布了苹果版本嘛，将来肯定会把这个核心功能加上去。如果 SGLang 跑得通的话，我相信也没有必要折腾其他的框架移植，比如 Strata 什么的。因为无论你是 M5 Max 还是 M5 Ultra，只要上了 128G 统一内存，由于这个带宽，Max 是 612G，Ultra 是 1.2T，在这种情况下，你能跑 SGLang 的话，无论是 AI 算力还是带宽都完全够了。它支持多并发，效率一定会大大提升。当然了，目前社区已经有这样的测试版本了。你们自己如果买了苹果设备，想第一时间体验到这样的技术进步、体验到这种快感，那么你们就自己去折腾，是吧？我又买不起 Mac Studio Ultra。你们如果买得起的话，可以自己看一看，论坛有现成的作业。目前就有可用的作业，都是官方标准版的推理框架，还有社区能够轻松找到的模型权重。

啊最后说一下，如果我手里有钱的话，我一定会像论坛大神一样，选择 M5 Ultra 或者 M5 Max，它的小主机或者笔记本。英伟达的 DGX Spark 双机，你要选择来跑 DeepSeek V4 Flash，或者跑低量化版本的 V4.1 Flash，是可行的。但是 RTX Spark 本身我个人觉得毫无价值，纯纯的工业垃圾，它没有什么用。因为它能够跑的千问 3.8 Flash Next 模型就是它的极限了，完全不如你买一张独立显卡加上大内存，也没有这样的笔记本划算。有些笔记本不是有 5090 24G 独显吗？然后它搭配的内存也比较高，是吧？你们就选一个 64G、96G 或者 128G 内存的笔记本，加上一张独显，跑 AI 大模型都比 RTX Spark 要好。更不要说你在本地买一张独立显卡，搭配一个洋垃圾，给它配 128G 内存也很便宜，DDR3、DDR4 的也不贵，那效率绝对是要吊打这个小主机的。

RTX Spark 这个笔记本毕竟不能双机互联，是吧？你两个笔记本连在一起也成何体统嘛？是不是？我完全不推荐购买，这东西就是纯纯的工业垃圾，没有任何洗白的空间。哦，我还又忘掉了一点，必须给大家再次强调，哪怕三年之后、五年之后，M5 Ultra 还是一个非常牛逼的机器。它用来办公、剪视频，依然是非常强大的存在，这个机器还是可以卖很多钱。你三年之后、五年之后，RTX Spark 就是工业垃圾，你明白吗？DGX Spark 就是工业垃圾，基本上没有什么像样的活能干了。并不是所有人买小主机都纯粹是为了跑 AI，大家还是有一些其他需求的，比如办公、编程，这也是你考虑的一个重要因素。

当然了，我发表任何观点，都是我自己以为。是不是经常有些傻叉在我评论区留言，因为我说的某些观点、我喷的某些人，说我给江苏人丢脸？哦，我都不知道他这个脑袋是怎么想的。这些人可能是人大代表当多了，天然认为自己代表谁。我不要说江苏了，我都没有资格代表我们村。我连我儿子都不能代表，只能在某种特定的场景下，比如我儿子名下有什么资产，我要代表他去处理。他未成年，在这种特定情况下我能代表他，其他时候我是不能代表我儿子的。我就不知道，我在视频中对某些硬件发表一些评论，怎么就给江苏人丢脸了？好吧，这些都是闲扯淡。

大家有什么硬件要展示的，哪些地方我说得不对的，欢迎你们用实际的测试用例、实际的数据、实际的装备来打脸我，千万不要学某些人在评论区装逼。就这些人，我想问你们一个问题：你们老婆、你们的孩子知道你们在互联网上装逼吗？知道你们装富豪吗？你老婆想买的包包想了两三年了，你给她买了吗？你小孩想要的玩具，是不是他都已经长大了，你还没舍得给他买？你跟我吵完架、装完逼之后，要不要搬砖？明天要不要搬砖？

是吧，我就是靠这个吃开口饭的，我就是经营油管频道、经营网站的。我跟你吵完架，在视频中提一下，这是我的素材，还能给我挣钱。我第二天都是一觉睡到自然醒的。因为对于我来说，我的工作就是去论坛总结数据，或者我自己测试某些模型、测试某些硬件，然后发表评论、BB 一下，这就是我的工作。你确定你要跟我吵架吗？大家都是社会的底层，都是混口饭吃，相互帮衬一下，不要总相互拆台。你们到我的厂子里面来捣乱，我不喷你们、不骂你们怎么可能呢？砸我的饭碗，我还不能喷你们几句？相互帮衬，不要底层互害。

引用两个帖子：
帖子1:https://lcz.me/topic/2172
帖子2:https://lcz.me/topic/2190