抡锤者

@张鑫磊 还是要把模型跑起来然后使用满载的跑半小时看看

zerotier Tailscale Netbird都可以搭。多备几个方案

可以试试用mtplx来跑27B

我之前是在comfyui里部署得。写了几首rap，感觉还不错。

感觉跑llm不需要满功耗。我那个3090不限制是390w.实际高强度跑下来还是限制到280w最稳。300w也不稳。不知道amd的显卡是否如此

我用m1 max 64G的macbook pro跑omlx Qwen3.5-35b-a3b-4bit-mlx 好像也是30几tokens/s

我是 ser7 外接的3090，我的拓展坞应该是500w的电，默认出来两根8pin,一根接了根一分二。开始外接到win11系统的rog枪神plus的笔记本上烤鸡通过后开始接ser7,ser7装的ubuntu,经过一番曲折后全部搞定。最后功率设定在280w 用llama.cpp跑qwen3.6 27b，刚装完后大概满载连续使用了12小时没出什么问题。以上供您参考

@tomcatzh 比较多的是某些技术比赛时

@y2k 能具体介绍一下方法嘛？谢谢

外接一块3090会舒服很多吧。我就是ser7外接3090

@davidwei0826 其实还有一个场景也比较多。就是断互联网情况下。