2月份搞的这两个卡，目前能跑hermes+qwen3.6 27b，有没有志同道合的兄弟一起研究这卡怎么玩

]]>https://lcz.me/topic/199/3080-20g-2的有没有-来交流啊兄弟们RSS for NodeWed, 20 May 2026 06:05:02 GMTMon, 18 May 2026 10:19:55 GMT60@terry 刚知道vllm还可以开mtp，我再多试试。回头再来反馈

]]>https://lcz.me/post/2527https://lcz.me/post/2527Tue, 19 May 2026 04:58:24 GMT@whjwyc 我去！好消息，回头我也得试试。

]]>https://lcz.me/post/2526https://lcz.me/post/2526Tue, 19 May 2026 04:46:37 GMT我的就是3080 20g*2 vllm受限于主板，不成功。llamma.cpp还可以大概的速度是50多60左右的样子。模型qwen3.6-27b

]]>https://lcz.me/post/2516https://lcz.me/post/2516Tue, 19 May 2026 02:28:35 GMT@rock-shi 很重要的信息

]]>https://lcz.me/post/2491https://lcz.me/post/2491Mon, 18 May 2026 21:40:49 GMT@terry 测试完了。vllm不行，18tokens/s左右，应该还是我的主板不行。ollama稳定29tokens/s

]]>https://lcz.me/post/2478https://lcz.me/post/2478Mon, 18 May 2026 17:04:49 GMT@coin1860 那就不值得了，为这点事还换主板。洋垃圾都有两个以上PICE 3* 16，不会拖后腿吧。我觉得可以测试下。

]]>https://lcz.me/post/2464https://lcz.me/post/2464Mon, 18 May 2026 15:31:27 GMTtp 必须要pcie4 x8 , pcie3 tp prefill 速度会慢过单卡pp

]]>https://lcz.me/post/2462https://lcz.me/post/2462Mon, 18 May 2026 15:27:44 GMT@rock-shi 对的，论坛需要你的数据，串行真的没啥意思，TP跑起来分享才有价值，这卡也算是神卡了。

]]>https://lcz.me/post/2369https://lcz.me/post/2369Mon, 18 May 2026 10:30:35 GMT@terry 锤子哥！吼吼，之前vllm没搞定，我得再去折腾一波

]]>https://lcz.me/post/2367https://lcz.me/post/2367Mon, 18 May 2026 10:29:35 GMT这有什么好研究的？这两张卡并行串行都随便跑啊，硬件完全合格了。你可以尝试下用VLLM或者SG-Lang TP，效率会高很多。跑起来发数据就好了，没必要跑串行分层，那浪费算力了。

]]>https://lcz.me/post/2361https://lcz.me/post/2361Mon, 18 May 2026 10:24:07 GMT

]]>https://lcz.me/post/2360https://lcz.me/post/2360Mon, 18 May 2026 10:22:28 GMT