-
@rich-king 如果mlx框架优化发力,理论上限,从硬件规格上来讲 96GB的m5 ultra满血版的LLM性能不亚于目前相同价格的rtx pro 5000
但是你得到了双倍的ram,以及一整套mac设备。
所以只能期待mlx框架发力了。
-
@rich-king 如果你就跑跑qwen 27b为什么会傻呢?
-
@rich-king 如果mlx框架优化发力,理论上限,从硬件规格上来讲 96GB的m5 ultra满血版的LLM性能不亚于目前相同价格的rtx pro 5000
但是你得到了双倍的ram,以及一整套mac设备。
所以只能期待mlx框架发力了。
-
@rich-king 没事,我陪你一起sb
-
@rich-king 没事,我陪你一起sb
好兄弟,到时候一起玩耍心得啊……
-
@rich-king 如果mlx框架优化发力,理论上限,从硬件规格上来讲 96GB的m5 ultra满血版的LLM性能不亚于目前相同价格的rtx pro 5000
但是你得到了双倍的ram,以及一整套mac设备。
所以只能期待mlx框架发力了。
