双卡4080s 32g可以P2P,驱动打补丁就行了。我用的vllm,单路大约60-70,3-4路就有300-400了,挺能打的。最高限制6路。有时候会出现1路计算1路排队的情况,没怎么注意。
最好的一天,大约产6亿token。没怎么刻意用,需要就用,忙的时候就放在那。
也是华南主板,P2P大约25g左右,基本满速
Capri Swicord
@Capri Swicord
-
雙 4080 SUPER 32G + SGLang HiCache 實測:Qwen3.8-27B-FP8,256K context,agent 全程代操(GLM Zcode + GLM 5.3) -
分享两台 AI 算力机:X99 四卡(2×3080+2×3090) + EYPC H12-8D(2×4080S+2×7900XTX)大佬,第二台机器详述一下,外面那两个7900XTX电源咋办,外接电源嘛。实际效果咋样。坐等测试数据
-
双魔改卡实现P2P的新路线感兴趣,请大佬继续跟踪
-
小白篇 : 雙卡AI 算力系統 基本配置7R13咋样,米兰,看起来价格比7R32要便宜,单路的话
-
就最近论坛中瞎带AMD多卡,多卡升级的错误言论的驳斥!小白一定要看。目前双卡中,谢谢大佬提点
-
嫌台式机显卡吵的, 给大家推荐一个神器大佬牛逼,我也看过这个隔音的。嫌贵麻烦。大佬说说你怎么处理进风出风的
我目前就是用几十元的管道风机+布套对着机箱进气口猛吹,丢在没人去的房间,风机比涡轮卡还吵,好像降温效果一般 -
4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型4080s 32g闲鱼都是1.2w了,京东哪些店1.3w+了,大佬们,京东可以坏了包换嘛,看也是小店。
还有什么平替,越来越贵了 -
4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型我看4080s 32g这块卡没怎么涨价,个人觉得还好。是有什么缺陷我没看见的嘛,大佬指点一下。已经买了一张,准备再入手一张,组双卡4080S
-
# 🎬 用ESP32-S3实施廉价KVM-over-IP — 完整折腾报告牛逼,建议整个套件挂淘宝,多一个选择
-
华南金牌H12D-8D/16D双路主板cpu套装@fanwen1974 大佬效果咋样,我也在看这个主板,有点贵,内存条现在也不便宜。还有cpu咋不用7003系列,不是说这一代比7002好嘛
-
想把主機弄成縫合怪3090+3080+3060可以嗎3090 24Gb, 3080FE 10Gb是两张卡联合起来跑嘛,学习。坐等大佬回复
-
618刚攒的机,用来做linux工作站,看看能折腾出啥来,水一贴牛逼,恭喜恭喜,大佬
-
兄弟们,小白也成功安装了我的9700,这里是实践过程.都是血与泪啊..效果咋样,硬件花了多少钱,搞得我也想整块9700
-
4080s 32g,ubuntu虚拟机 40g内存跑qwen3.6 27b int4谢谢,现在我宿主机是ubuntu24.04,虚拟机也是,估计还是有损耗,显卡直通虚拟机。
-
4080s 32g,ubuntu虚拟机 40g内存跑qwen3.6 27b int44080s 32g,ubuntu虚拟机 40g内存跑qwen3.6 27b int4
vllm,单发27token左右,上下文48k,是不是弱了点。各位大佬,才开始用得。
请教下NVFP4是不是用不了,看了只有50显卡可以
如何优化,有大佬展示一下嘛