<![CDATA[买了2张5060Ti，谁能跑最便宜的Qwen 27B？]]>如题所示。我之前买了台 Mac Mini M4（24GB内存），结果发现哪怕配合 oMLX，也跑不动任何合适的模型。

现在我入手了 RTX 5060Ti（16GB显存，448 GB/s显存带宽），单块售价不到500美元；相比那些经过魔改的 RTX 3080 等显卡，它在这卡在耐用性方面应该更有保障。显卡还没到货，所以目前暂无性能实测数据。

R7900XTX 还没见过低于 1000 美元的价格。

大家觉得怎么样？

]]>https://lcz.me/topic/16/买了2张5060ti-谁能跑最便宜的qwen-27bRSS for NodeWed, 20 May 2026 07:04:45 GMTMon, 04 May 2026 22:00:06 GMT60<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Fri, 15 May 2026 16:29:13 GMT]]>@terry OK ,谢谢，马上处理掉

]]>https://lcz.me/post/1894https://lcz.me/post/1894Fri, 15 May 2026 16:29:13 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Fri, 15 May 2026 15:43:18 GMT]]>@jianyuan-zhang 简单说就是不能，很慢，体验很差，不值得折腾。

]]>https://lcz.me/post/1879https://lcz.me/post/1879Fri, 15 May 2026 15:43:18 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Fri, 15 May 2026 15:00:52 GMT]]>@terry 我有张改的4090散热器的TESLA V100 32G，想问下能不能跑本地QWEN3.6 27B？

]]>https://lcz.me/post/1864https://lcz.me/post/1864Fri, 15 May 2026 15:00:52 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Fri, 15 May 2026 07:03:16 GMT]]>@stakira 5060Ti #2 仍未收到. 上面有同仁發的速度可以參考。vLLM 环境我会尽快搞。

RTX 3090 双卡LlamaCpp相关内容，在另一篇帖子中可查看。

]]>https://lcz.me/post/1712https://lcz.me/post/1712Fri, 15 May 2026 07:03:16 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Thu, 14 May 2026 04:18:19 GMT]]>@AresROC 催更了兄弟

]]>https://lcz.me/post/1526https://lcz.me/post/1526Thu, 14 May 2026 04:18:19 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Sat, 09 May 2026 13:12:35 GMT]]>@AresROC 老弟这工件台专业啊

]]>https://lcz.me/post/669https://lcz.me/post/669Sat, 09 May 2026 13:12:35 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Sat, 09 May 2026 10:25:28 GMT]]>@Tide 上下文64K有点不够，128K就很棒。不过估计再几个月，用V4架构的新的小模型出来，上下文就足够大了。

]]>https://lcz.me/post/656https://lcz.me/post/656Sat, 09 May 2026 10:25:28 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Sat, 09 May 2026 10:20:34 GMT]]>小白如果要即插即用，兩張5060TI 16G 插X99，用windows LMstudio，直接載QWEN3.6 27B Q4KM，KV Q8量化，可以拉到120k context，速度大概18token/s。以上是個人親測，屬於可用的程度。

]]>https://lcz.me/post/655https://lcz.me/post/655Sat, 09 May 2026 10:20:34 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Sat, 09 May 2026 07:42:03 GMT]]>RTX3090 更新记忆前后的散热。温度一定要看着点。😅
IMG_2056.jpeg

]]>https://lcz.me/post/639https://lcz.me/post/639Sat, 09 May 2026 07:42:03 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Sat, 09 May 2026 03:40:45 GMT]]>@Vivid-Vector 牛逼，我也想限制一下3080的功率，显卡背板太烫手。这贴我留下了。感谢

]]>https://lcz.me/post/615https://lcz.me/post/615Sat, 09 May 2026 03:40:45 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Sat, 09 May 2026 03:30:29 GMT]]>Vivid-Vector 👍 下载个来试试

]]>https://lcz.me/post/614https://lcz.me/post/614Sat, 09 May 2026 03:30:29 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Thu, 07 May 2026 07:43:40 GMT]]>@AresROC 有空多弄点分享帖子，我一看有图有真相，我就不用什么都自己验证了，相互学习。

]]>https://lcz.me/post/427https://lcz.me/post/427Thu, 07 May 2026 07:43:40 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Thu, 07 May 2026 07:32:17 GMT]]>@terry 好的，我做了RTX 5070 Ti加上RTX 5060 Ti 16GB. PCIe 3.0x4 Bus. Qwen3.6-27b 速度还可以Q4有26.7 Token/s。LmStudio会把大部分记忆体放在5070 T I上。

單卡3090 Q4得到35 Token/s. Power limit 80%让记忆体温度低一点先 不然会升到105度C

我也是50+看到你今天的视频有提到😆

目前只是搞windows加上LMStudio。日后改进Linux加上vLLM或别的。还会搞ComfyUi。

我找到一个电脑可以塞這两个3090。我會想辦法先測試一下再等NvL ink到货。

]]>https://lcz.me/post/425https://lcz.me/post/425Thu, 07 May 2026 07:32:17 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Wed, 06 May 2026 09:02:18 GMT]]>直接卖了，换4080S

]]>https://lcz.me/post/309https://lcz.me/post/309Wed, 06 May 2026 09:02:18 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Wed, 06 May 2026 06:07:37 GMT]]>@AresROC 到时候记得发一个详细的测试帖子，如果有双3090测试的更好，我白嫖做视频。

]]>https://lcz.me/post/297https://lcz.me/post/297Wed, 06 May 2026 06:07:37 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Wed, 06 May 2026 04:18:18 GMT]]>@stakira 今天才收到其中一張RTX 5060Ti，另外一張要等個星期。

明天計劃收購兩個R T X 3090 希望成功到手試試。

實際測試方法還要研究研究。傷腦筋還要搞個NvLink。。。

]]>https://lcz.me/post/291https://lcz.me/post/291Wed, 06 May 2026 04:18:18 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 18:23:58 GMT]]>@seewoscott 不需要，走PICE就可以

]]>https://lcz.me/post/252https://lcz.me/post/252Tue, 05 May 2026 18:23:58 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 18:23:35 GMT]]>@19-徐福政 你两张3070ti也只有16g，它还是会offload到CPU还是慢，27b稠密是推理时必须27b全量参与，Moe快是因为专家load到显存中去。你不要升级，就用35b a3b挺好的，差距当然有，但是没到不能玩，配置一个在线Deepseek，搞不定的事让Deepseek 跑。

]]>https://lcz.me/post/251https://lcz.me/post/251Tue, 05 May 2026 18:23:35 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 18:20:28 GMT]]>@Vivid-Vector 牛逼啊兄弟，居然这么会玩，发个帖子说下你的2080Ti，我说2080Ti是垃圾之后，很多人不爽喷我，我想是不是我太武断了，你有信息分享下。跑大模型，ComfyUI实际体验，最好带图，让我坐一起视频，嘿嘿 🤤

]]>https://lcz.me/post/250https://lcz.me/post/250Tue, 05 May 2026 18:20:28 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 18:05:04 GMT]]>两张 5060 ti 用 vllm 跑 tensor parallel 速度应该不错的，期待实测数字

]]>https://lcz.me/post/246https://lcz.me/post/246Tue, 05 May 2026 18:05:04 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 17:55:40 GMT]]>@Eric-HO
是用 https://github.com/TheTom/llama-cpp-turboquant 嗎
能跑多少 t/s
能給我llama.cpp的參數嗎 我想參考

你覺得我現在只有一張3070ti 8g 如果再加一張3060 12g能順跑3.6-27B-Q4KM嗎

我現在用
cpu 5900x
ram 64g
gpu 3070ti 8g

-ngl 9 -c 87475 -np 1 -t 12 -b 1024
-ctk turbo4 -ctv turbo4 -fa on
--jinja --cache-reuse 1024
--slot-save-path cache --spec-type ngram-mod
--spec-ngram-size-n 6 `
--draft-min 16 --draft-max 96

qwen3.6-27b-q4_k_m.gguf 2.84 t/s 左右
Qwen3.6-35B-A3B-IQ4_XS.gguf 35 t/s 左右

]]>https://lcz.me/post/244https://lcz.me/post/244Tue, 05 May 2026 17:55:40 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 17:45:25 GMT]]>@Tide
nvtop也是个不错的N卡监控工具，支持多卡
fa5aab5b-f138-4ef8-a014-297c9638bc60-image.jpeg

]]>https://lcz.me/post/243https://lcz.me/post/243Tue, 05 May 2026 17:45:25 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 17:37:59 GMT]]>@暧昧光影
手上暂时没有3090Ti。
不过按我的经验，温度能控制得住的情况下，锁功率，小超核心，大超显存，对于跑LLM来说都适用。
B站有人实测PRO 6000 Max-Q 版，功率只有300W，相比满血600W的工作站版只损失10%的性能，而且他还没给显存超频。

我看到的PRO 6000，跑LLM经常都是吃不满功耗，TDP 600W的工作站版，只吃到450W左右的样子。
跑满600W功耗的情况，通常是GPU SM里的CUDA核心满载，Tensor Cores也接近满载，同时显存空间和带宽也占用很高的情况才会出现。
LLM的矩阵运算主要靠Tensor Cores执行，且吃满显存空间和带宽，但SM CUDA核心通常空载。

]]>https://lcz.me/post/242https://lcz.me/post/242Tue, 05 May 2026 17:37:59 GMT<![CDATA[Reply to 买了2张5060Ti，谁能跑最便宜的Qwen 27B？ on Tue, 05 May 2026 17:25:12 GMT]]>@Vivid-Vector 3090ti有参数么？

]]>https://lcz.me/post/239https://lcz.me/post/239Tue, 05 May 2026 17:25:12 GMT