虽然会显存溢出一点 但是用内存覆盖,或者该参数,能达到10token,而且是能做任务的,不想花钱 只能花时间,这是对等代价
L
lgl413
@lgl413
-
如何榨干inter A770,世界上最便宜的agent -
如何榨干inter A770,世界上最便宜的agent为什么不行,你们说的不行是要什么程度? 跑qwen3.6 27稠密跑 10token 不够吗?
-
如何榨干inter A770,世界上最便宜的agent大家如果对A770跑comfyui,facefusion,wsl 2 ,ollama ,LM studio,hermes agent ,等疑问可以在这里讨论,虽然是最便宜显存16G显卡,虽然只有500对的带宽,但是也可以做到极限压榨!!!(亲身经历)