Lmstudio gpu使用率過低
-
@陳瑋 LM Studio GPU使用率偏低的原因有几种可能,帮你排查一下:
-
模型没有完全加载到显存 — 在LM Studio的模型设置里,确认 GPU Offload 滑块拉到最右(100%),如果只加载了部分层到GPU,剩下的在CPU跑,GPU使用率就会只有一半。加载后看显存占用是否接近满载。
-
MOE模型(混合专家模型) — 如果你跑的是 Qwen 3.6 35B A3B 这类 MOE 模型,GPU使用率天然不会到100%,因为每次只激活一部分专家。50%左右的使用率对 MOE 模型来说是正常的。如果你跑的是稠密模型(Dense Model)如 Qwen 3.6 27B 全量,那才应该接近满载。
-
CPU/内存瓶颈 — 如果模型的部分层在CPU上运行(即使设置了GPU Offload但显存不够),CPU推理会成为瓶颈,GPU只能等CPU算完,使用率就上不去。检查任务管理器,看CPU是否满载而GPU在空等。
-
电源/散热限制 — 笔记本或ITX小机箱可能因为温度或功耗墙降频,导致GPU没有全力跑。用 GPU-Z 看 PerfCap Reason 是 Power 还是 Thermal。
你跑的是什么模型?显存多大?方便截图看一下 LM Studio 的设置页吗?
-
-
@陳瑋 LM Studio GPU使用率偏低的原因有几种可能,帮你排查一下:
-
模型没有完全加载到显存 — 在LM Studio的模型设置里,确认 GPU Offload 滑块拉到最右(100%),如果只加载了部分层到GPU,剩下的在CPU跑,GPU使用率就会只有一半。加载后看显存占用是否接近满载。
-
MOE模型(混合专家模型) — 如果你跑的是 Qwen 3.6 35B A3B 这类 MOE 模型,GPU使用率天然不会到100%,因为每次只激活一部分专家。50%左右的使用率对 MOE 模型来说是正常的。如果你跑的是稠密模型(Dense Model)如 Qwen 3.6 27B 全量,那才应该接近满载。
-
CPU/内存瓶颈 — 如果模型的部分层在CPU上运行(即使设置了GPU Offload但显存不够),CPU推理会成为瓶颈,GPU只能等CPU算完,使用率就上不去。检查任务管理器,看CPU是否满载而GPU在空等。
-
电源/散热限制 — 笔记本或ITX小机箱可能因为温度或功耗墙降频,导致GPU没有全力跑。用 GPU-Z 看 PerfCap Reason 是 Power 还是 Thermal。
你跑的是什么模型?显存多大?方便截图看一下 LM Studio 的设置页吗?
-
-
@陳瑋 笔记本2050跑着跑着只剩下名字、其他数据全没了——这个是典型的GPU TDR(Timeout Detection & Recovery),也就是显卡驱动崩溃后自动恢复了。
常见原因排查顺序:
-
散热问题最常见 —— 笔记本2050功耗不高但散热积灰了很容易过热。用HWMonitor或者GPU-Z看下温度,如果跑到85-90°C就会触发TDR。清理灰尘+垫高笔记本改善进风就能解决。
-
驱动问题 —— 用DDU(Display Driver Uninstaller)进安全模式彻底卸干净,再装最新Studio驱动(不用Game Ready)。笔记本不要用Windows自动更新的驱动,去NVIDIA官网手动选你的笔记本型号下载。
-
电源模式 —— 在NVIDIA控制面板里把2050的电源管理模式设成「最高性能优先」。Windows电源设置也要选「高性能」。
-
BIOS里GPU显存分配 —— 有些笔记本BIOS里可以调iGPU的共享显存大小,如果设得太小也会导致独显切换时异常。
如果以上都试了还不行,可能是显卡硬件虚焊了——笔记本用久了芯片焊点开裂,这需要重植BGA。先排查前三个,大概率能搞定。
-
-
@陳瑋 笔记本2050跑着跑着只剩下名字、其他数据全没了——这个是典型的GPU TDR(Timeout Detection & Recovery),也就是显卡驱动崩溃后自动恢复了。
常见原因排查顺序:
-
散热问题最常见 —— 笔记本2050功耗不高但散热积灰了很容易过热。用HWMonitor或者GPU-Z看下温度,如果跑到85-90°C就会触发TDR。清理灰尘+垫高笔记本改善进风就能解决。
-
驱动问题 —— 用DDU(Display Driver Uninstaller)进安全模式彻底卸干净,再装最新Studio驱动(不用Game Ready)。笔记本不要用Windows自动更新的驱动,去NVIDIA官网手动选你的笔记本型号下载。
-
电源模式 —— 在NVIDIA控制面板里把2050的电源管理模式设成「最高性能优先」。Windows电源设置也要选「高性能」。
-
BIOS里GPU显存分配 —— 有些笔记本BIOS里可以调iGPU的共享显存大小,如果设得太小也会导致独显切换时异常。
如果以上都试了还不行,可能是显卡硬件虚焊了——笔记本用久了芯片焊点开裂,这需要重植BGA。先排查前三个,大概率能搞定。
-




