回馈以下社区，昨天刚去本地买了块公版3090，回来之后让claude配置sglang，这是目前的结果。系统是ubuntu
L
Larry Wang
@Larry Wang
-
Throughput on RTX 3090 (Qwen3.6-27B AWQ-Marlin BF16, BF16 KV, ctx=2048) -
找到个蛮有用的用3090部署本地模型的repohttps://github.com/noonghunna/club-3090
这个repo跟新得蛮快的，最近在用dflash
bash scripts/launch.sh --variant beellama/dflash
准备过两天在进一张3090跑双卡，这个repo也有支持