跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
F

fsclsnow

@fsclsnow
取消关注 关注
关于
帖子
12
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • Mac生态跑文生图视频以有可能了吗?M5 Max 40GPU 64G
    F fsclsnow
    AI硬件 mac apple-m5 视频生成

    我选Mac Studio M5 Max的理由:

    等M5 Max Studio的原因:

    1. MacBook 14 散热太差其实跑不动M5 Max
    2. MacBook 16 依然很难发挥Max全部能力,同时便携性很差;除非贪他的优秀大屏。
    3. 个人没有很大的移动办公需求;现在出门可以用Telegram远程下指令调配任务,固定的工作站式24*7的服务器模式更合适。已经在用M4的Mac Mini作为小型家庭服务器,体验极佳。
    4. 相比MacBook,相同配置Studio价格更实惠
      -MacBook 16 Max-40GPU,64G,2T-最低标配 - $5,399; 直逼低配Ultra了 ($5,499)
    5. 为什么选这个配置 (40GPU, 64G内存)?
    • 32GPU只有400多G内存带宽;40GPU才有614G (Ultra 统一都是1.2T)
    • 128G内存价格也直逼Ultra低配版了(1T硬盘,$5,399),(96G内存 $5,499; 有这个预算的话,个人建议直接上最低配的Ultra
    • 个人暂时没有音视频工作流的打算,如果有大多也不会选Mac吧;多开还是Ultra高带宽高内存更好;当然有钱啥都不是事儿;综合考量着现在这个价位能跑本地Qwen3.8-27B游刃有余,可坚固日常办公Agent任务需求;是很好的中间位
    • 缺货问题。现在我这边Max 128G是期货,待机1个月+
      Screenshot 2026-09-24 at 10.58.03.png
      ; Ultra 低配待机已经超过2个月
      Screenshot 2026-09-24 at 10.59.10.png
      ;

  • Mac生态跑文生图视频以有可能了吗?M5 Max 40GPU 64G
    F fsclsnow
    AI硬件 mac apple-m5 视频生成

    第一手测试资料:
    先说基准测试 - MLX:
    Qwen3.8-27B-MLX-6bit (模型 22.8G)
    目前四档实测
    Context Prefill Decode Peak Memory 512 tokens总时间
    8K 921.3 tok/s 23.17 tok/s 25.26 GB 30.9 s
    32K 845.4 tok/s 21.62 tok/s 26.87 GB 62.5 s
    128K 596.8 tok/s 16.69 tok/s 33.69 GB 248.8 s
    256K 436.7 tok/s 13.05 tok/s 42.74 GB 643.7 s

    Qwen3.8-27B-MLX-4bit (模型 16.1G)
    Context Prefill Decode Peak Memory 512 tokens总时间
    8K 985.1 tok/s 31.92 tok/s 18.53 GB 24.3 s
    128K 626.1 tok/s 21.10 tok/s 26.96 GB 231.6 s
    256K 447.2 tok/s 15.49 tok/s 36.01 GB 613.8 s

    基准和网上MacBook M5 Max的测试数据差不多;长上下文内存占用不多,256K 6Bit差不多42G,4Bit36G,还是跑的动,且有冗余20来G分配给系统和Agent等。长上下文是主要耗时还是在Prefill,将近10分钟。

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组