抡锤者

不需要那么高级p100也能跑，生成速度不过慢一点而已，qwen3.8 27b int3 能开到128k上下文。速度不快10-12t/s，虽然不快跑跑本地Agent尝尝鲜还是可以的，毕竟只有那么300-400多。可以先练练手，试试自己的应用场景。虽然int3损失了一点精度，但是也不是什么都不行。

@番茄胡萝卜 只能学谷歌走手机版的算力集群了，等等把。类似于猫池一样的算力集群。坐等华强北的大佬开发