Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
哪位大神感兴趣,帮忙看看这个是什么技能,是不是真的,我感觉消费级显卡的春天来了。
这有啥,Radiance 不相对于 Strata 还翻了一翻嘛,按着自己的配置找“专武”才是正道。
这个工具确实厉害,我用了,提速很多
@Bunsei 说: 这有啥,Radiance 不相对于 Strata 还翻了一翻嘛,按着自己的配置找“专武”才是正道。
@Bunsei 说:
Radiance 双R9700 配 Swift 1.5 Qwen W4A8 200K 上下文 平均170t/s prefill 3000 多。
除了多并发弱点,其他非常完美。我现工作几乎全用这个模型。
@张光璞 双r9700 prefill 才3000吗?
我被搞懵了 之前双r9700 prefill 都5-6k 的 是什么引擎?
双r9700 radiance 跑27b 是什么表现?
@applejuice 说: @张光璞 双r9700 prefill 才3000吗? 我被搞懵了 之前双r9700 prefill 都5-6k 的 是什么引擎? 双r9700 radiance 跑27b 是什么表现?
@applejuice 说:
双9700 跑27b这不是暴殄天物嘛, 以前27b 稠密那是没办法 。 现在125B MOE 智力和知识面都好过27B的。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。
有了你的建议,这篇帖子会更精彩哦 💗