Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
用了strata 12天了,每天都是惊喜。 自从看到maya这个项目就在关注。 看来我需要行动了。 一直在等他们把速度突破50t/s ,才是真正的实用。
感謝,我明天拿5090雙卡來玩,看看能不能破100
@stxpnet 我刚刚要睡啦!! 这是不想让我睡觉了, 恼火
看來你的 白天(宰相)要換成GLM5.3了
@stxpnet 看了一下, 53tok/s 的, 人家配置是 2x RTX 3090 24 GB (PCIe 4.0 x16, power-capped at 225 W), Threadripper 3970X, 128 GB RAM , 人家应该是 4通道内存的 , 如果是普通双通道的 cpu+主板, 我估计能到40就不错了。
prefill 900 太慢了 至少2000 我觉得才可以用...
我跑通了,每秒20token左右!
这属实令人兴奋🤩
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。
有了你的建议,这篇帖子会更精彩哦 💗