有大神在本地部署 GLM 5.2 吗?

[terry]

@566656661 这个难度我觉得小意思，你试试看，我作为站长不方便参与，要不然我恨不得自己做。

[566656661]

@soop-ladios

原來是這樣, 漲知識了

我還以爲會是類似家用網絡Switch那種, 一個頭接一個裝置

[566656661]

@terry

我在主力電腦上的ComfyUI還是人手打Prompt + 玩, 還沒到自動

剛剛單純看一下要求的, 已經想到幾個難點是自己沒有想法的

[terry]

@566656661 抓紧学习，全能起来，

[fcme]

这个太不现实了，除非你是视金钱如粪土的富哥。
现在本地部署说实话还是有点儿尴尬，哪怕是27b这样的模型，哪怕你用的是5090，一到agent使用场景，因为现在毕竟是agent时代了，那个pp速度一慢了你如果要是没做好缓存优化的话，你是根本不会想主力用它的。如果只是聊个天，做一点文本工作聊天窗口那种，然后识别个图啊，OCR的话，我以前那个5070ti就挺好的，升级到5090也就是可以跑的量化精度高一点，但是依然解决不了稠密模型在本地部署情况下的慢的问题。你想27b都如此，那像glm5.2这种庞然大物，本地布属真的意义不大。你可以考虑租个云端的卡试验一下，最终的归宿应该还是调用的时候用API，反正现在智谱的，coding plan也买不到。

[566656661]

@terry

很難啦

Autoregressive類很多技術還沒研究跟實驗, Heretic跟Abliterator的去審查方式還沒實驗過, 微調跟Lora那些還是去看

[Alexander Lee]

现在本地也就跑生图和视频现实点，文本大模型还是富哥们的玩具，真要投个几万十几万来搞，够充API到天荒地老了

[Kk Hh]

我觉得还是用云端的挺好 ，GLM5.2的确很强 安全阈值又低 我最近用的也比较疯,OLLAMA CLOUD 应该基本上是最便宜的了。

[williamlouis]

如果有可跑的项目。可以考虑。为了测测 参数 整一套 没什么意义。结果是可以预测的。肯定不如在线的。

[unafyang]

我感觉不如opencode GO，一个月也就10美金，但是可以跑GLM,KIMI,DEEPSEEK，QWEN一小部分，足够我们用了