跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

Ray WangR

Ray Wang

@Ray Wang
关于
帖子
3
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • Pro 6000都是怎么玩?
    Ray WangR Ray Wang

    @王一民 说:

    PRO 6000如果只聊单线程prefill和decode性能,只是和5090相当。
    PRO 6000的优势主要在于ECC认证的显存、官方静音涡轮卡(MAX-Q版本)以及多出来的64GB显存。

    所以公式很简单,如果你认为64GB ECC认证显存的价值>40000人民币,或者你想玩静音阵列(比如MAX-Q * 3)跑deepseek v4 flash,你就可以买。
    否则就不买。

    这里有几个原因。
    1、96GB显存,其实跑不下大的Moe模型。122B的Q5量化就爆了。
    2、对于小模型,96GB显存又过于overkill。
    3、多个模型服务跑在一张显卡上,目前没有一个最佳实践做资源隔离。会降低效率。(因为你一定是用Agent来驱动LLM,所以必然是多个模型同时运行)。

    谢谢,所以我的第一感觉应该是没错的,6000确实很屌,但是我目前可能用不太到。真正需要的时候再换好了。

    AI硬件

  • Pro 6000都是怎么玩?
    Ray WangR Ray Wang

    哈哈哈,算上小特基本2:2了。也是公说公有理婆说婆有理。小马过河只能自己去试了😂

    AI硬件

  • Pro 6000都是怎么玩?
    Ray WangR Ray Wang

    最近想更新一下我的配置,平时用Openclaw帮我做调研,写码,也用comfyui跑图。我算了一下,咬咬牙其实可以上一张Pro 6000。

    但Pro 6000在我眼里就是皇帝的金锄头

    我手里已经有一块3090了,如果再加一块3090,我就可以比较舒服的跑Qwen3.6 27b了,甚至还能并行。如果我需要做图,我还可以再加一张3090,单独用来跑comfyui,跟另外两张3090协同。

    但是如果只装一块Pro 6000的话,虽然好像可以把两种模型都装进显存,但是似乎却不能协同作业?也就是说虽然我可以并行很多大模型,但是却不能同时作图?

    当然了,一张Pro 6000的耗电低得多,但我还是觉得我目前的工作吃不满96gb显存。我这种情况是不是买两张魔改4090更合适?

    AI硬件
  • 登录

  • 没有帐号? 注册

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组