@rock-shi 说:

@applejuice 牛皮！这个速度已经很舒服了。hermes用子代理干活也能提高速度，3080最高能跑到70t/s

够用了
先玩玩comfyui

GPU 限制 250w

模型

Repo	llmfan46/Qwen3.6-27B-uncensored-heretic-v2-GPTQ-Int4
Multimodal	vision (image input)
MTP heads	Present but disabled (0% accept on GPTQ)
Native context	262,144 tokens
Engine	vLLM v0.21.0

参数

--model /models/heretic-gptq-int4
--served-model-name qwen3.6-27b-heretic
--quantization gptq_marlin
--dtype float16
--tensor-parallel-size 2              # both 3090s, real NVLink usage
--max-model-len 262144                # 262K context
--gpu-memory-utilization 0.92
--max-num-seqs 2                      # 2 concurrent streams
--max-num-batched-tokens 8192
--kv-cache-dtype fp8_e5m2             # 1 byte/token KV
--trust-remote-code
--reasoning-parser qwen3              # routes <think> → reasoning_content
--enable-auto-tool-choice
--tool-call-parser qwen3_coder        # native Qwen3 tool format
--enable-prefix-caching               # repeated prompts share KV
--enable-chunked-prefill              # long prefill doesn't block decode
--disable-custom-all-reduce           # MANDATORY for cross-NUMA setup

测试

现在就叫claude 去设置

启动脚本：

root@NV-AI-3090Dual2:~# cat vllm.qwen3.6-27b.sh 
#!/bin/bash
source /root/.bashrc
source /root/venv/bin/activate
# vLLM 启动脚本 — Qwen3.6-27B-AutoRound-INT4
# 用法: bash start-vllm-qwen3.6.sh [TP] [PP]
#   TP: tensor-parallel size，默认 2
#   PP: pipeline-parallel size，默认 1

set -e

# ========== 参数 ==========
TP="${1:-${TP:-2}}"
PP="${2:-${PP:-1}}"
MODEL_PATH="/root/models/qwen3.6-27b-autoround-int4"
PORT="${PORT:-8000}"
HOST="${HOST:-0.0.0.0}"
MAX_MODEL_LEN="${MAX_MODEL_LEN:-262144}"
GPU_MEM_UTIL="${GPU_MEMORY_UTILIZATION:-0.92}"
KV_CACHE_DTYPE="${KV_CACHE_DTYPE:-fp8_e5m2}"
TEMP="${TEMP:-${TEMPERATURE:-0.6}}"
TOP_P="${TOP_P:-0.95}"
TOP_K="${TOP_K:-20}"
MIN_P="${MIN_P:-0.0}"
REPEAT_PENALTY="${REPEAT_PENALTY:-1.0}"

# speculative decoding
SPECULATIVE_CONFIG='{"method":"mtp","num_speculative_tokens":3}'

# 推理模板参数（关闭 thinking）
CHAT_TEMPLATE_KWARGS='{"enable_thinking": false}'

# ========== 环境变量 ==========
export NVIDIA_VISIBLE_DEVICES="${NVIDIA_VISIBLE_DEVICES:-all}"
export HUGGING_FACE_HUB_TOKEN="${HF_TOKEN:-}"
export VLLM_WORKER_MULTIPROC_METHOD=spawn
export NCCL_CUMEM_ENABLE=0
export NCCL_P2P_DISABLE=0
export VLLM_NO_USAGE_STATS=1
export VLLM_USE_FLASHINFER_SAMPLER=1
export OMP_NUM_THREADS=1
export PYTORCH_CUDA_ALLOC_CONF="expandable_segments:True,max_split_size_mb:512"

# NVLink 检测（自行补充 detect_nvlink.sh 逻辑，或删掉这两行）
# source /etc/club3090/detect_nvlink.sh
# _NVLINK_ENABLED=0  # 手动设置：0=无NVLink, 1=NvLink开启

# ========== 构建命令 ==========
ARGS=(
    --model "$MODEL_PATH"
    --served-model-name qwen3.6-27b-autoround
    --quantization auto_round
    --dtype float16
    --tensor-parallel-size "$TP"
    --pipeline-parallel-size "$PP"
    --max-model-len "$MAX_MODEL_LEN"
    --gpu-memory-utilization "$GPU_MEM_UTIL"
    --max-num-seqs 2
    --max-num-batched-tokens 8192
    --kv-cache-dtype "$KV_CACHE_DTYPE"
    --trust-remote-code
  #  --chat-template "${CHAT_TEMPLATE}"      # 没有自定义模板文件则删除此行
    --reasoning-parser qwen3
    --default-chat-template-kwargs "$CHAT_TEMPLATE_KWARGS"
    --enable-auto-tool-choice
    --tool-call-parser qwen3_coder
    --enable-prefix-caching
    --enable-chunked-prefill
    --disable-custom-all-reduce
    --speculative-config "$SPECULATIVE_CONFIG"
    --override-generation-config "{\"temperature\":${TEMP},\"top_p\":${TOP_P},\"top_k\":${TOP_K},\"min_p\":${MIN_P},\"repetition_penalty\":${REPEAT_PENALTY}}"
    --host "$HOST"
    --port "$PORT"
)

echo "=========================================="
echo "启动 vLLM | TP=$TP PP=$PP | $MODEL_PATH"
echo "=========================================="
echo "命令: vllm serve ${ARGS[*]}"
echo ""

exec vllm serve "${ARGS[@]}"
deactivate

python -m vllm.entrypoints.openai.api_server
--model ~/AiModel/Qwen3.6-27B-AWQ-QuantTrio
--gpu-memory-utilization 0.95
--max-model-len 98304
--enable-auto-tool-choice
--tool-call-parser hermes
--tensor-parallel-size 2
--host 0.0.0.0
--port 8000

现在hermes 接入llama Qwen3.6-27B-uncensored-heretic
kv Q8_0 216k context(还没试)
prefill 800-900t/s
全模态吞吐 40t/s
也算可以用

接下来玩下comfyUi

nvlink 就有点浪费 多花了3000好像

vLLM + NVLink 的关键点

vLLM 用 NCCL 做 Tensor Parallel 通信，NVLink 只要在 nvidia-smi topo -m 里能看到 NV4，NCCL 会自动走 NVLink，不需要手动配置。但有几个常见翻车点：

1. --tensor-parallel-size 2 没加 — 不加这个参数就是单卡跑，NVLink 自然用不上
2. Docker --shm-size 不够 — NCCL 需要共享内存做 buffer，推荐 --shm-size=16g，太小会报 NCCL 超时
3. CUDA_VISIBLE_DEVICES 顺序问题 — NVLink 拓扑依赖 PCIe 插槽顺序，如果两张卡物理上是通过 NVLink 桥连的但 CUDA_VISIBLE_DEVICES 指定了非相邻的卡号，NCCL 可能不走 NVLink
4. NCCL_NVLS_ENABLE=1 — 新版 vLLM（0.8.x+）有时需要这个环境变量来强制启用 NVLink 的 NVLS（NVLINK SHARP）协议

建议调试步骤：

1. 先裸机（不用 Docker）跑 vLLM，排除 Docker 的共享内存问题：python -m vllm.entrypoints.openai.api_server --model Qwen3.6-27B --tensor-parallel-size 2
2. 如果报 NCCL 错误，加 export NCCL_DEBUG=INFO 看通信路径——输出里如果有 NVLink 字样说明走对了
3. 还不行的话加 --enforce-eager 试试，关闭 CUDAGraph 有时能避开 NVLink 通信的 graph capture 问题

不过说回来，你已经用 llama.cpp 跑得很好了（双卡 prefill 6k+ t/s 相当不错），vLLM 在双 3090 上的优势主要是 OpenAI 兼容 API 和更灵活的调度。如果不需要多用户并发或者 API 服务，llama.cpp 的推理速度其实够用了。