@terry 2080Ti 的 nvlink, 多多 200 多块
Famadalu Us
-
让你们看看垃圾魔改卡2080ti 的威力 qwen3.6-27b fp8 精度 速度能到 60tokens/s nvlink 连接 -
让你们看看垃圾魔改卡2080ti 的威力 qwen3.6-27b fp8 精度 速度能到 60tokens/s nvlink 连接很强,准备买来玩一下,2080ti 要涨价了
-
AMD Radeon W7800 48GB 可以入手吗?@abaalei 不管是卡问题还是驱动问题,反正 amd 用起来体验感就是差,用ROCm 7.2 驱动,r9700,非常卡,核心莫名满载,没任务也能满载跑很久,换为Vulkan 驱动,要好了不少,但是同 token 输出的情况下,N 卡要丝滑多,N 卡的核心占用和任务是同步的!amd 是有异常的,模型输出完成后,还要跑很久,核心占用才释放
-
AMD Radeon W7800 48GB 可以入手吗?@exe127 7900xtx 我没测试过,但是从参数看,要比 r9700 好不少,应该有 30% 的性能提升,唯一不足就是显存,能跑,但是开不了 262k 上下文,65k 吧
-
AMD Radeon W7800 48GB 可以入手吗?AMD的卡 新手非常不推荐,论坛谈论很火的性价比神卡 R9700 32GB 和 7900XTX 24GB这两张卡, 前两天刚从京东盈通下单,10999 块,满怀期待本地部署 Liunx24.04,ROCm7.2,llama, qwen3.6-27B-Q4_K_M.gguf,开启 MTP,上下文 262K,KV q8,并发 1, 跑起来显存占用 29GB 左右, 搭配 hermes测试,35 tok/s左右, 咋一看这性能还可以,实际应用,跑任务,工具调用,非常慢,如果 deepseek v4 flash 处理这个任务要 1 秒,那么R9700 需要至少 5秒以上, 随着任务的复杂程度上升,等待时间会倍数级别上涨,你能感觉到的是涡轮狂暴转速的声音和漫长的等待,让 ai 做了个脚本监控显卡状态,满载核心正常 100° 以上,经常降频!更换了Vulkan 驱动,感觉好了不少,任务执行快了有 30%,这是个人体感,没去严谨测试,为什么不去测试,应为我判定了这个卡对我来说不可用,就不想花费精力去测试了,总结一下,R9700 这张卡,qwen3.6-27B 能跑的起来,仅仅是能跑起来,驱动 hermes 流畅工作生产力,还是不行;这张卡最大的缺点是慢,这是对比 5090和4090 等流畅 跑 hermes,其他的都还行,部署基本没难度,性价比还是有的,如果你挂着跑comfyui,不在意速度,还是很香的 !老黄的刀法极其精准,新手想有个好的体验,还是多花点钱买 nv 吧!