️注：本文仅代表我自己机器上的实测结果，以及我自己不同配置之间的对比。肯定还有高手，欢迎分享您的方案

AMD Radeon RX 7900 XTX 是一张很有特点的显卡：24GB 显存、960GB/s 显存带宽，运行安静，放到今天看性价比依然有一定优势。

在老特的感召下，我前后买了两张这个卡，自己用了三个多月，也陆续折腾和尝试了不少不同的本地大模型部署方案，想看看这张卡到底还能挖出多少潜力。

这次准备把自己这段时间的一些测试、配置和踩坑经验分几篇整理出来，算是抛砖引玉，给同样在折腾 AMD 7900 XTX 的朋友做个参考。

也欢迎大家分享自己的配置、测试结果和优化思路，有更好的方案也请多提宝贵意见。

1. 新的 HIP build 来源

本次主要性能提升来自新的 HIP build / 编译路径

特别感谢：

• llama.cpp 项目 https://github.com/ggml-org/llama.cpp
• daniel-mtp 分支，HEAD 6fcaa16f4（2026-09-21），基于 llama.cpp upstream + MTP PR #28243
• AMD ROCm / HIP 社区针对 gfx1100 的持续优化

2. 测试硬件与环境

3. Cold Prefill 性能

Server 实测

llama-bench 独立复核

Server 与 llama-bench 基本重合，这说明测试结果具有较好的可重复性：

• 32K: 882.98 vs 886.13
• 64K: 763.74 vs 764.87
• 128K: 607.22 vs 606.43

llama-bench 更接近底层纯性能测试，用来观察模型和后端本身的 Prefill 吞吐；llama-server 则更接近实际部署场景，还包含服务端请求、tokenization、调度等额外路径。

两套独立测试在 32K / 64K / 128K 三档都高度一致，说明这里的 Prefill 数字不是单一 benchmark 工具或服务端计时方式造成的偶然结果，可以作为后续配置对比的稳定基线。

4. 对比我之前的旧 build-rocmfp4 路线。

已确认的主要差异：

注：旧 build 与当前 build 并不是严格的单变量源码 A/B，因此本文把结果表述为“旧部署 build → 当前 HIP build 的整体提升”，不把全部增益强行归因给某一个单独编译参数。

后续我又在当前同一个 build下补做了 q4_0 vs q8_0 KV A/B，结果 Prefill 几乎完全一致，因此可以排除“这次提升主要来自 KV dtype 改变”这一解释。

Prefill 对比

上图可以看出，新 build 不仅整体 Prefill 更高，随着 Context 增长，性能衰减也明显更缓。

最后附一张对比图结尾。

后面的帖子里，我会继续介绍基于这套底座延伸出来的新玩法；这也是这篇帖子里 KV 只以 q8_0 为主测的原因。