抡锤者

@Leon-Y 换了电源就没事了？ 我的症状跟你有点不同 也不懂是什么问题

你的nvlink 3 slot 版本？

想了解 ai 崩掉的原因

@Leon-Y 我羡慕nvlink
想问是什么平台

@terry
暂时根据ai看来 是gpu 出问题
已经第2个nvlink 一样问题
第一个nvlink 卖家用别的卡测试也是有问题

感觉 4张 gpu 2条nvlink 都刚好出问题
所以怀疑是平台问题

@terry 说:

@applejuice 这个我可以参考下，抄作业，有空弄下。awq的还是值得玩的。你Hermes调度时，有思考过程吗？

有的.
其实也不是我弄的
ai 全自动搞

@用户名违规 是的 3090

跟着 https://github.com/mattbucci/2x-3090-GA102-300-A1-sglang-inference
我也用起来了 3090x2

python -m sglang.launch_server
--model-path /home/ccadmin/AI/models/hf-mattbucci/Qwen3.6-27B-AWQ
--tensor-parallel-size 2
--dtype float16
--kv-cache-dtype fp8_e4m3
--context-length 262144
--mem-fraction-static 0.85
--max-running-requests 8
--chunked-prefill-size 8192
--num-continuous-decode-steps 32
--trust-remote-code
--watchdog-timeout 600
--port 30000
--host 0.0.0.0
--enable-metrics
--disable-custom-all-reduce
--served-model-name qwen36-dense
--max-mamba-cache-size 8
--chat-template …/Qwen3.6-27B-AWQ/chat_template.jinja
--reasoning-parser qwen3
--sampling-defaults model
--tool-call-parser qwen3_coder
--sampling-backend pytorch

Prefill (time-to-first-token, max_tokens=1)

Decode (steady-state generation)

想问 成功用上 nvlink 3090 的你们. 是用在什么平台上?

我换了两个nvlink 问题都一样
卖家测试不同的卡也是一样问题

通道 3 一直报错

@c0aster 暂时来看 只有大显存优势
肯定不值7000-8000的价钱
2000 都还要考虑

@fcme 有便宜的玩玩还可以 5000-6000 就不好玩了
等他跌回1000 才买来玩吧

@znl 不大敢搞水冷 怕弄坏了

@maverick 暴涨就没动力试了

记错了 是26%，差不多30%了

Heretic (qwen3.6-27b-heretic) — NVLink vs No-NVLink (TP=2, 245 W cap)

话说 nvlink 少了nvlink 就损失了 20% prefill 速度.

@terry 我一开始就买了 只是有问题 一直在折腾
快一个月了 现在证实翻车

买的两张涡轮3090
link3 严重报错
高强度 跑模型 gpu 会假死.
换了两个nvlink bridge 都不行，应该是显卡问题了

这波亏了不止2000

继续用个2-3年存钱换5090 好了.

我前两天要把卡移下一格 结果发现 机箱根本没地方了

@Metal-Zhao 为什么超过双3090？的确是便宜过3090好多

@williamlouis 但是现在5090 太贵了
可以用3年就当赚到