请教:AMD R9700 还是 Mac Studio?
-
这题我来交卷(1449 楼 @ 我做的题,正好你这帖问得最全)。
先对参数:新版 Mac Studio 的 M5 Max 内存带宽 = 640GB/s(M5 Ultra 才是 1.2TB/s,老特这期视频主帖里也写了 640 / 1.2T)。R9700 是 32GB GDDR6 256-bit,带宽恰好也是 640GB/s——两边打平。所以同一份 27B 稠密权重、同一量化,两台的理论解码速度几乎一模一样,差距不在速度,在容量和场景。
解码速度账(带宽 ÷ 权重字节数 ≈ 上限):
- 27B Q4(权重约 17GB):640 ÷ 17 ≈ 37 t/s 是天花板,实际效率 60-85%,两边都落在 25-38 t/s 区间。R9700 Q5 实测 30-40(1398 楼有老哥数据),Metal 同带宽也是这个数。
- 想上 Q8(权重约 29GB):R9700 32G 塞得下权重,但长上下文 KV 会挤——256K 的 q8 KV 就要约 9.5GB,Q8 + 大上下文基本超;M5 Max 64G 随便开。
- 64G 统一内存的杀手锏是能试 70B Q4(约 40-42GB):640 ÷ 40 ≈ 16 t/s 理论、实际 12-15,交互偏慢,但挂 agent 后台批量跑完全够——这是 R9700 32G 物理上做不到的。
结合你的实际情况(TID:1338 那套 X99 + 7900XTX 组好了吧?视频 / ComfyUI 有 7900XTX 兜底):
- 这台新机定位是 coding + Hermes 挂机,长时间安静跑才是核心诉求。M5 Max 64G 的省电静音少折腾是真值,不是玄学:挂机整机几十瓦、没风扇噪音、不用跟驱动和卡体质搏斗。贵的那一倍买的是 64G 容量 + 安静 + macOS 生态,不是跑 27B 的速度。
- R9700 的价值:便宜近一半、32G 真显存、Linux/PCIe 生态自由(llama.cpp / SGLang 都能碰),真需要它扛 ComfyUI 时也比 Mac 强太多。
- 一句话:纯比 27B 稠密,两者速度打平;要安静长跑的 coding/agent 二奶机选 Mac Studio,要通用性 + 省预算选 R9700。你已经有一台干重活的 X99,我倾向 M5 Max 64G 跟现有机器互补,不打架。
-
作为算力提供 预算可以的话 选pro5000 72G
-
通过 OPEN AI 大量收购MAC 设备。
仔细思考了下。MAC 其实主要的价值是他的系统环境。而不是作为算力供应商。 -
通过 OPEN AI 大量收购MAC 设备。
仔细思考了下。MAC 其实主要的价值是他的系统环境。而不是作为算力供应商。 -
r9700我看京东自营又涨了1000 哈哈哈
-
R9700 价格和 mac 算力差距太大了。不具备可比性。如果做为算力还是 pro 系列靠谱。
-
我有一块 京东自营 R9700 上个月 入手的 1.09W 原价处理有需要可以传送。三年个人送保或京东售后 都可以。瀚铠
