AMD Radeon W7800 48GB 可以入手吗？
-
@exe127 不能。硬件锁死了。
-
AMD的卡 新手非常不推荐，论坛谈论很火的性价比神卡 R9700 32GB 和 7900XTX 24GB这两张卡， 前两天刚从京东盈通下单，10999 块，满怀期待本地部署 Liunx24.04，ROCm7.2，llama， qwen3.6-27B-Q4_K_M.gguf，开启 MTP，上下文 262K，KV q8，并发 1， 跑起来显存占用 29GB 左右， 搭配 hermes测试，35 tok/s左右， 咋一看这性能还可以，实际应用，跑任务，工具调用，非常慢，如果 deepseek v4 flash 处理这个任务要 1 秒，那么R9700 需要至少 5秒以上， 随着任务的复杂程度上升，等待时间会倍数级别上涨，你能感觉到的是涡轮狂暴转速的声音和漫长的等待，让 ai 做了个脚本监控显卡状态，满载核心正常 100° 以上，经常降频！更换了Vulkan 驱动，感觉好了不少，任务执行快了有 30%，这是个人体感，没去严谨测试，为什么不去测试，应为我判定了这个卡对我来说不可用，就不想花费精力去测试了，总结一下，R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行；这张卡最大的缺点是慢，这是对比 5090和4090 等流畅 跑 hermes，其他的都还行，部署基本没难度，性价比还是有的，如果你挂着跑comfyui，不在意速度，还是很香的 ！老黄的刀法极其精准，新手想有个好的体验，还是多花点钱买 nv 吧！
-
AMD的卡 新手非常不推荐，论坛谈论很火的性价比神卡 R9700 32GB 和 7900XTX 24GB这两张卡， 前两天刚从京东盈通下单，10999 块，满怀期待本地部署 Liunx24.04，ROCm7.2，llama， qwen3.6-27B-Q4_K_M.gguf，开启 MTP，上下文 262K，KV q8，并发 1， 跑起来显存占用 29GB 左右， 搭配 hermes测试，35 tok/s左右， 咋一看这性能还可以，实际应用，跑任务，工具调用，非常慢，如果 deepseek v4 flash 处理这个任务要 1 秒，那么R9700 需要至少 5秒以上， 随着任务的复杂程度上升，等待时间会倍数级别上涨，你能感觉到的是涡轮狂暴转速的声音和漫长的等待，让 ai 做了个脚本监控显卡状态，满载核心正常 100° 以上，经常降频！更换了Vulkan 驱动，感觉好了不少，任务执行快了有 30%，这是个人体感，没去严谨测试，为什么不去测试，应为我判定了这个卡对我来说不可用，就不想花费精力去测试了，总结一下，R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行；这张卡最大的缺点是慢，这是对比 5090和4090 等流畅 跑 hermes，其他的都还行，部署基本没难度，性价比还是有的，如果你挂着跑comfyui，不在意速度，还是很香的 ！老黄的刀法极其精准，新手想有个好的体验，还是多花点钱买 nv 吧！
-
因為Vulkan的驅動支援比ROCm好阿, 這裏應該很多人都是llama.cpp + Vulkan
-
AMD的卡 新手非常不推荐，论坛谈论很火的性价比神卡 R9700 32GB 和 7900XTX 24GB这两张卡， 前两天刚从京东盈通下单，10999 块，满怀期待本地部署 Liunx24.04，ROCm7.2，llama， qwen3.6-27B-Q4_K_M.gguf，开启 MTP，上下文 262K，KV q8，并发 1， 跑起来显存占用 29GB 左右， 搭配 hermes测试，35 tok/s左右， 咋一看这性能还可以，实际应用，跑任务，工具调用，非常慢，如果 deepseek v4 flash 处理这个任务要 1 秒，那么R9700 需要至少 5秒以上， 随着任务的复杂程度上升，等待时间会倍数级别上涨，你能感觉到的是涡轮狂暴转速的声音和漫长的等待，让 ai 做了个脚本监控显卡状态，满载核心正常 100° 以上，经常降频！更换了Vulkan 驱动，感觉好了不少，任务执行快了有 30%，这是个人体感，没去严谨测试，为什么不去测试，应为我判定了这个卡对我来说不可用，就不想花费精力去测试了，总结一下，R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行；这张卡最大的缺点是慢，这是对比 5090和4090 等流畅 跑 hermes，其他的都还行，部署基本没难度，性价比还是有的，如果你挂着跑comfyui，不在意速度，还是很香的 ！老黄的刀法极其精准，新手想有个好的体验，还是多花点钱买 nv 吧！
-
Vulkan
竟然是Vulkan更好! 我還以為 ROCm 是AMD官方的, 理應會更好呢.
-
@Famadalu-Us "R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行"
大件事了, 我的7900XTX相比又會如何呢?
-
ROCm一直都比Vulkan落後
嘛, 基本上AMD都是採用放養式, 全部依賴社區開源來養ROCm, 所以社區找不到理由從Vulkan跳過去ROCm
vLLM跟SGLang的ROCm版本也經常被批評性能差, 不如說AMD根本沒把心思放在ROCm上面...
-
AMD的卡 新手非常不推荐，论坛谈论很火的性价比神卡 R9700 32GB 和 7900XTX 24GB这两张卡， 前两天刚从京东盈通下单，10999 块，满怀期待本地部署 Liunx24.04，ROCm7.2，llama， qwen3.6-27B-Q4_K_M.gguf，开启 MTP，上下文 262K，KV q8，并发 1， 跑起来显存占用 29GB 左右， 搭配 hermes测试，35 tok/s左右， 咋一看这性能还可以，实际应用，跑任务，工具调用，非常慢，如果 deepseek v4 flash 处理这个任务要 1 秒，那么R9700 需要至少 5秒以上， 随着任务的复杂程度上升，等待时间会倍数级别上涨，你能感觉到的是涡轮狂暴转速的声音和漫长的等待，让 ai 做了个脚本监控显卡状态，满载核心正常 100° 以上，经常降频！更换了Vulkan 驱动，感觉好了不少，任务执行快了有 30%，这是个人体感，没去严谨测试，为什么不去测试，应为我判定了这个卡对我来说不可用，就不想花费精力去测试了，总结一下，R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行；这张卡最大的缺点是慢，这是对比 5090和4090 等流畅 跑 hermes，其他的都还行，部署基本没难度，性价比还是有的，如果你挂着跑comfyui，不在意速度，还是很香的 ！老黄的刀法极其精准，新手想有个好的体验，还是多花点钱买 nv 吧！
-
@Famadalu-Us "R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行"
大件事了, 我的7900XTX相比又會如何呢?
@exe127 7900xtx 我没测试过，但是从参数看，要比 r9700 好不少，应该有 30% 的性能提升，唯一不足就是显存，能跑，但是开不了 262k 上下文，65k 吧
-
@Famadalu-Us
这根卡其实关系不大，一分钱一分货，我折腾了一周本地大模型，最后还是回归用API模式（我原本买来就不是为了跑LLM的，只是想借着折腾，学习点知识）。速度快效率高，又不贵，本地的算力还是玩文生图图生视频吧。@abaalei 不管是卡问题还是驱动问题，反正 amd 用起来体验感就是差，用ROCm 7.2 驱动，r9700，非常卡，核心莫名满载，没任务也能满载跑很久，换为Vulkan 驱动，要好了不少，但是同 token 输出的情况下，N 卡要丝滑多，N 卡的核心占用和任务是同步的！amd 是有异常的，模型输出完成后，还要跑很久，核心占用才释放
