
NV link好贵,目前最低的价格都在1800左右一个,想知道有没有已经link了的朋友,在各种启动方式(SGLANG/vLLM/llama.cpp)上进步有多大?到底值不值得上?
PS:3090购买经历
我目前是2张影驰大将3090+2张微星超龙3090。其中1影驰大将3090+1微星超龙3090是本地当面收的二手,经过验证,温度,性能都正常,另外1影驰大将3090+1微星超龙3090来自闲鱼,可能是运气比较好,经过验证,温度,性能也都正常就正常签收了。

NV link好贵,目前最低的价格都在1800左右一个,想知道有没有已经link了的朋友,在各种启动方式(SGLANG/vLLM/llama.cpp)上进步有多大?到底值不值得上?
PS:3090购买经历
我目前是2张影驰大将3090+2张微星超龙3090。其中1影驰大将3090+1微星超龙3090是本地当面收的二手,经过验证,温度,性能都正常,另外1影驰大将3090+1微星超龙3090来自闲鱼,可能是运气比较好,经过验证,温度,性能也都正常就正常签收了。
用Hermes写了一个小工具开源给大家玩玩:
GPU Console 桌面 GPU 监控小窗,多显卡逐卡显示(品牌色标+型号+温度/功耗/风扇/频率),还有 30 秒利用率历史小图无边框可拖拽,F11 全屏,无黑窗闪烁免费开源(MIT),
一键安装包下载:
github.com/JumpEggKiller/gpu-console/releases 有独立显卡的自取
️

NInfer Qwen3.8 27b是真的很快啊,在单卡3090上(目前NIfer只能单卡)70+t/s,唯一不足就是上下文太短(单卡上显存不够了)。