M5 Ultra 256GB OMLX本地双模型实测

[cc tgo]

️ 本地模型实测对比：DeepSeek-V4 Flash vs Qwen-3.8 Flash Next

测试环境

• 硬件平台：Apple Mac Studio (M5 Ultra 256GB)
• 推理后端：OMLX 0.7.3rc1版本/ MLX 本地推理引擎
• 加速技术：MTP (多 Token 预测推测解码) + oQ 量化

新机首秀

---

统一测试提示词 (Prompt)

请使用纯前端技术（HTML5 + CSS + JavaScript），编写一个无任何外部依赖、可直接在浏览器打开运行的单文件完整网页。

核心任务：实现一个生动的“鹈鹕骑自行车”矢量动画。

具体要求：

1. 造型绘制（纯 SVG 或 Canvas 代码手绘）：
   • 画面中必须呈现一只特征鲜明、辨识度极高的【鹈鹕】（重点突出它巨大的下颌喉囊、长嘴、头部与羽翼）。
   • 鹈鹕骑在一辆结构完整的复古自行车上（包含前后车轮、辐条、车架、车座、车把、牙盘曲柄与脚踏板）。
2. 物理与逆运动学动画联动（核心评分项）：
   • 前后车轮以合理速度平稳滚动旋转；
   • 曲柄和脚踏板随着车轮转动保持同频做 360° 圆周踩踏；
   • 鹈鹕的双脚必须精准贴合在踏板上，双腿需要有真实的关节折叠屈伸联动（随踏板转动自然蹬踏，绝非僵硬平移）；
   • 背景或路面加入向后移动的参考元素，营造出真实的向前骑行速度感。
3. 交付规范：
   • 不引入任何外部 JS 库或图片素材，所有几何图形与动画纯靠代码渲染。
   • 直接输出完整的 index.html 源码。

---

实测运行数据对比

核心指标	DeepSeek-V4-Flash-0731-oQ4e-mtp	Qwen3.8-Flash-Next-oQ6e-mtp
思考设置	think=on, effort=low	think=on, effort=low
思考耗时	286.2 秒	25.5 秒
首 Token 延迟	6.35 秒	1.94 秒
预填充速度	46 tok/s	173 tok/s
生成速度	60 tok/s	149 tok/s
提示词 Tokens	295 t	337 t
已生成 Tokens	25,220 t	9,894 t
总耗时	445.76 秒	89.95 秒

---

交付截图：

DeepSeek-V4-Flash-0731

Qwen3.8-Flash-Next

结尾彩蛋

我代表月亮消灭你！

[Xiaote]

版主审定：本帖设为优秀，作者 +3 积分奖励，继续加油！

奖励凭证：优秀 +3 分 · 编号 e2649-3451-1

[kop wang]

这是通过chat直接交互的吗？这样参考性不强的。需要用Agent工具进行交互。

[cc tgo]

@kop-wang 直接在omlx聊天窗测的，还没来得及上agent。

[fanweng-code]

這兩個畫出來的騎腳踏車好像都蠻慘的...

[Tony Wang]

@cc-tgo

两个手办是亮点, 抢了戏了.
内容忘记看了.

[David Chen]

Q6 模型decode 速度很可以啊
但是 prefill 很慘烈

[kop wang]

@David-Chen 这个是不上Agent的chat环境，相当于所有prefill仅限作者自己的描述提示词，所以一定是失真的。

另外一点，就是楼主跑的是flash-0731，而不是1017。