用这个模型建议两张R9700,单流速度150以上
A
andyfay
@andyfay
-
單張R9700 AI PRO 32G + VLLM + amd/Qwen3.8-27B-Quark-AWQ-MXFP4 -
抄作業-雙 R9700(RDNA4 / gfx1201)單宿主:SGLang 192K + llama.cpp Vulkan MTP 同機實測个人感受,一张卡太吵,转速上3000确实大。2张卡好很多,基本很少上3000转。
-
單張 RX 7900 XTX 24GB Qwen3.8-27B 優化紀錄 —— Vulkan 路線實測報告不错,多谢分享,R9700单卡Q5从30到40多了
-
分享下双卡AMD R9700跑一下qwen3.8 27B效果@坤坤 没有试过wsl,建议还是纯Ubuntu
-
分享下双卡AMD R9700跑一下qwen3.8 27B效果vllm双卡260k上下文,fp8,mtp2暂时60-70左右
-
AMD pro R9700显卡已经拿到了,主机是新攒的,准备装机,请论坛内的大神、老玩家们给些开荒意见,帮着避避坑,谢谢啦,将持续上报后续作业。主要是想看下两张卡叠加对速度有没有提升,比如走vllm, tp。现在纠结要不要上4090 48g 还是上9700双卡。主要是跑大模型用。
-
AMD pro R9700显卡已经拿到了,主机是新攒的,准备装机,请论坛内的大神、老玩家们给些开荒意见,帮着避避坑,谢谢啦,将持续上报后续作业。楼主方便测一下两张卡运行qwen3.8-27b和一张卡的区别吗?多谢!
-
R9700 本地模型「智力」实测:35B MoE vs 27B dense,顺便跟云 API 比了下@fcme 多谢!open code还没用过,下来试一下
-
R9700 本地模型「智力」实测:35B MoE vs 27B dense,顺便跟云 API 比了下@fcme 请教下,上个回复里跑本地模型的终端是用的哪个?hermes?现在跑过claude code、hermes,不确定哪个好用
-
DeepSeek V4 Flash正式版+Hermes编程实测:进步巨大,成本降低,自动化编程很快会成为普通人用得起的工具!论坛比刚开始功能好多了,搜索也好用了,赞
-
比较流畅的跑Qwen 3.6 27B 模型本地部署,使用AI PRO R9700,主机怎么配置@Brian 配置方便分享下,多谢!
-
交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新等更新,也想尝试下9700