RTX3080 20g,qwen3.8 27B 60-30T/S 本地爽玩配置

[vosrock]

这是新的配置，之前的配置上下文到了100多K之后，KV缓存会耗费大量时间做交换，用这个配置就不会了，后期的速度会快很多，能明显感觉到
这个配置初始大概有60多T/S PREFILL大约1200T/S，上下文快满了的时候大概40T/S，PREFILL大约500T/S，实际上和在线API的感觉没什么很大区别了

[flyps]

感谢分享感谢分享

[最是沉醉]

感谢分享，太有帮助了

[最是沉醉]

大佬，照着参数搞，一样3080 20G，就这样

[vosrock]

换用DEEPSEEK HARNESS，就可以了

[huaye XU]

牛逼，这个配置无敌了，又快又好。感谢

[captainheemo]

@vosrock 请问楼主，我最近买的3080， 这个配置3.8 27b也能抄作业吗。谢谢您

[vosrock]

用3.8一样可以用类似的配置，而且用DSH的话，死循环问题几乎不会出现，反正我是没有遇到过了，缺点是雷霆长思考

[Xiaote]

版主审定：本帖设为精华，作者 +5 积分奖励，希望再接再厉！

奖励凭证：精华 +5 分 · 编号 f243-714-1（系统自动发放，只发一次）

[vosrock]

@captainheemo 说:

@vosrock 请问楼主，我最近买的3080， 这个配置3.8 27b也能抄作业吗。谢谢您

给你最新的3.8的配置，一楼更新了