家里有3台机器 amd 395 128g 跑halogen 大概50t/s,还有台mac m2 96g 跑strata 大概30几,还有台4080 16g 的32g内存的游戏电脑,昨天装了strata , 不过由于限制只能运行一个量化比较差的模型,居然能到70多,智能方面大内存的两台无敌,基本跟opus看不出差别,我已经用amd 395完成了一个很大的项目,量化差的只用英文交流,稍微次点但也能用。模型都是qwen 3.8 flash next,感觉没有必要再用27b稠密模型了,比较慢
家里有3台机器 amd 395 128g 跑halogen 大概50t/s,还有台mac m2 96g 跑strata 大概30几,还有台4080 16g 的32g内存的游戏电脑,昨天装了strata , 不过由于限制只能运行一个量化比较差的模型,居然能到70多,智能方面大内存的两台无敌,基本跟opus看不出差别,我已经用amd 395完成了一个很大的项目,量化差的只用英文交流,稍微次点但也能用。模型都是qwen 3.8 flash next,感觉没有必要再用27b稠密模型了,比较慢