抡锤者

@stxpnet 例如图表测试能够正确返回 BETA, 7，视频测试能够识别出画面中的验证码 8642 你说的实际问题还想问啥 我自己跑下给你结果就行 不麻烦 上下文方面 | 实际提示长度 | 验证位置 | 结果 | 预填充速度 | | 32,748 token | 50% | 通过 | 356.1 token/s | | 65,544 token | 8%、91% | 通过 | 350.1 token/s | | 119,998 token | 4%、50%、96% | 通过 | 346.2 token/s | 速度反正能用 不吹玄学：120K 提示在测试机上预填充约 346.6 秒。128K 是需要的时候真能用，但是长上下文肯定没有那么流畅。不过咱们自己用不需要那么长吧，我自己上下文都是通过agent挂rag或者路由知识网解决。

@williamlouis 我看了下机制罗 他们那个用的lora 速度不知为啥比我这个不用lora正常20步的还慢不少 视频质量下降已经可以看出来了 还是再等等官方的蒸馏版吧

那个卡应该是8卡叠加才效果好，也是再国产的无奈。业余玩家玩的话，单卡感觉有点像dgx spark或者amd 395。看被显存大，实则跑得慢，除非你能忍受晚上让它自己跑， 用时长换质量