@Leon-Y 3090的nvlink在哪里买?多少钱呀?
Larry Wang
@Larry Wang
-
双 3090(NVLink)跑 Qwen3.6-27B,128K 上下文实测 -
双3090 + Ollama 加载 Q8 视觉模型瞬间断电重启,求老哥们把脉 -
找到个蛮有用的用3090部署本地模型的repohttps://github.com/noonghunna/club-3090
这个repo跟新得蛮快的,最近在用dflash
bash scripts/launch.sh --variant beellama/dflash
准备过两天在进一张3090跑双卡,这个repo也有支持
-
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048)@williamlouis claude就用的opus 4.7,3090感觉目前跑不了qwen 3.6 27b sglang
-
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048) -
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048)
回馈以下社区,昨天刚去本地买了块公版3090,回来之后让claude配置sglang,这是目前的结果。系统是ubuntu
