跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 關於strata與MAC

關於strata與MAC

已定时 已固定 已锁定 已移动 AI硬件
6 帖子 5 发布者 100 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 怪物怪
    怪物怪
    怪物
    德高望重 劳动模范
    编写于 最后由 编辑
    #1

    大家好,請問strata的方法,
    可不可以用MAC M5 512G
    或兩台256G串聯的方法,
    來代替記憶體?
    謝謝

    babyedi3B 1 条回复 最后回复
    0
    • 怪物怪
      怪物怪
      怪物
      德高望重 劳动模范
      编写于 最后由 编辑
      #2

      跑DeepSeek-V4.1-Flash

      1 条回复 最后回复
      0
      • Grayson RenG
        Grayson RenG
        Grayson Ren
        编写于 最后由 编辑
        #3

        有个ds4项目 GitHub上有 可以看下

        1 条回复 最后回复
        0
        • kop wangK
          kop wangK
          kop wang
          超级版主
          编写于 最后由 编辑
          #4

          没有必要,因为omlx本来就是针对统一内存设计的。
          之所以出现strata,就是因为过去所有的运行环境都是针对于生产环境而言的,没有考虑过基于个人设备的综合硬件妥协。

          而统一内存方案的设备没这个问题,因为有且仅有RAM进行token交换,那就没有vRAM与RAM的协作问题。

          虚心交流,一起进步

          1 条回复 最后回复
          1
          • stxpnetS
            stxpnetS
            stxpnet
            超凡大师
            编写于 最后由 编辑
            #5

            看过作者的推文,有一条意思大致是,只要他想就能做出来。

            双卡3090 PCIE 4.0 16X/16X

            白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
            夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
            1 条回复 最后回复
            0
            • 怪物怪 怪物

              大家好,請問strata的方法,
              可不可以用MAC M5 512G
              或兩台256G串聯的方法,
              來代替記憶體?
              謝謝

              babyedi3B
              babyedi3B
              babyedi3
              编写于 最后由 编辑
              #6

              @怪物 mac本来就是统一内存,速度都是1.2T/s,没必要strata。
              就算用类似技术,也是把一些不重要的卸载到超高速SSD上吧?

              1 条回复 最后回复
              0

              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

              厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

              有了你的建议,这篇帖子会更精彩哦 💗

              注册 登录
              回复
              • 在新帖中回复
              登录后回复
              • 从旧到新
              • 从新到旧
              • 最多赞同


              • 登录

              • 登录或注册以进行搜索。
              • 第一个帖子
                最后一个帖子
              0
              • 版块
              • 最新
              • 标签
              • 热门
              • 用户
              • 群组