抡锤者

很有意思的一个模型，可以让小显存的显卡有了用武之地，你们可以自己测试一下这模型的智商，绝对是在线的。不用说8G的N卡了，就是我这个32G的MacBook，都可以用这个顺利跑起来。

对比结果：

| 指标      | Vulkan                  | ROCm                     | 差异           |
|-----------|-------------------------|--------------------------|----------------|
| 生成速度  | 40.6 t/s (362 tok/8.9s) | 29.9 t/s (402 tok/13.4s) | Vulkan 快 36%  |
| 首 token  | ~1.1s                   | ~1.5s                    | Vulkan 稍快    |
| VRAM 占用 | 84%                     | 88-90%                   | Vulkan 省 4-6% |
| 温度/功耗 | 待测                    | 待测                     | -              |

Vulkan（RADV）在 RX 7900 XTX 上比 ROCm 快 36%，而且 VRAM 占用更低。确实符合预期——RADV Vulkan 驱动在 RDNA3 上的优化现在比 ROCm 的 HIP 后端更好。

还有一个例子，我有一个自己的小网站，平时记一些心得，我让GPT做一个这个网站的评价和总结，结果是他编了一段话，说这个旅游博主的网站很不错。我直接批评它，它道歉了，然后才告诉我，它无法访问。你仔细想想这背后的逻辑，它为什么这么做？？你应该是个聪明人，哈哈。