抡锤者

@simo9052 我准备抄你的作业

@ezios 大神,膜拜.8G都跑起了35b a3b

上下文翻倍了,也想试试了...目前64K用起来真让人有点招鸡呀,一个小小的任务下来只看见他一遍一遍的压缩对话...

虽然我觉得比较便宜也购买了v4flash,但还是觉得能再降一点价格.大众化了才能百花齐放

儿童节申请版主。。。有点意思

@Xiaote 你爹叫你回家吃饭了

我也是从赛扬300，TNT32过来的人，但我一点也不老。虽然也算比较早用电脑，但我至今还是小白。品牌机我最喜欢的就一样东西，机箱。

给你当个参考，我的x99 3080待机70W左右。目前普通用的时候按照论坛大佬的方法sudo nvidia-smi -pl 200设置显卡最大功率200W。温度下来了。

@mark 说:

WSL2

我就被wsl2折磨过

@benton-yi 好的，谢谢哥们。

@Vivid-Vector 牛逼，我也想限制一下3080的功率，显卡背板太烫手。这贴我留下了。感谢

Vivid-Vector 下载个来试试

我就是3080 20G，只是拿来玩玩可以，干正事建议你还是规格往上。你听老特的没错，他这人尽说实话。

我这次新买的1200W利民才421块钱，你这是二手的还要这个价啊？

看过一个视频，里面提到他的卡散热很不错。其余的不清楚

我是从lms转到llama.cpp，lms狠吃内存。问ai说是可能内存泄漏。。。

stakira 谢谢，我试试。

@linax777 有可能，最近老是出现状况。

我本地部署模型是在物理机安装的Ubuntu server，一直很稳定。就是hermes和webui是安装在wsl2里面，各种问题让人崩溃。

泡泡。。。。。。。