提交的代码合并进官方版本了!
tiger tc
@tiger tc
-
【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya -
【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya我在我的A40,48G显存+768G内存上,把DeepSeek-V4.1-Flash-1017的Q8量化,模型全放内存读,平均跑到了26T/S。已经有实用价值了,给项目提了PR,看能不能合并进去!专给大内存用户使用!
https://github.com/mw00/project-maya/pull/368

-
终于等到GLM5.3 FLASH 50T/S了
我跑通了,每秒20token左右! -
DeepSeek Harness发布客户端 搭配GPT + Codex MacOS下体验完美,但Linux才是终极形态!linux版在哪里?
-
NInfer 4090D 48G测试,单任务长上下文体验很好,多任务长上下文4并发也能玩,个人场景可以平替SG-Lang!N卡本地部署入门利器!我移植到我的A40上了!
https://github.com/tctiger/ninfer-A40