@Leon-Y 3090的nvlink在哪里买?多少钱呀?
Larry Wang
@Larry Wang
-
双 3090(NVLink)跑 Qwen3.6-27B,128K 上下文实测 -
双3090 + Ollama 加载 Q8 视觉模型瞬间断电重启,求老哥们把脉@Leon-Y 你用Corsair RM1000X给两张3090+主板供电吗?第二张卡用那个接口供电?
-
找到个蛮有用的用3090部署本地模型的repohttps://github.com/noonghunna/club-3090
这个repo跟新得蛮快的,最近在用dflash
bash scripts/launch.sh --variant beellama/dflash
准备过两天在进一张3090跑双卡,这个repo也有支持
-
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048)@williamlouis claude就用的opus 4.7,3090感觉目前跑不了qwen 3.6 27b sglang
-
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048)@terry 4090 48g应该跑得下来,3090 24g sglang目前估计够呛,需要两张卡
-
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048)
回馈以下社区,昨天刚去本地买了块公版3090,回来之后让claude配置sglang,这是目前的结果。系统是ubuntu
