Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
deepseek正式开源大规模云服务推理框架 DeepInfer。 并宣布,基于这一框架,已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。 目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。
梁子牛逼啊,这开源开的太彻底了,看来就是要当开源基座,其他推理框架的压力来了。
换算下来就是每卡每年332880刀? 难怪算力租赁吃香
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。
有了你的建议,这篇帖子会更精彩哦 💗