跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 【讨论】 Minimax M3.1 Flash开源了 (26-10-23)

【讨论】 Minimax M3.1 Flash开源了 (26-10-23)

已定时 已固定 已锁定 已移动 随便聊聊
minimaxstrata本地模型
9 帖子 8 发布者 264 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • stxpnetS
    stxpnetS
    stxpnet
    王侯将相
    编写于 最后由 stxpnet 编辑
    #1

    image.jpeg

    {54AEE6D5-9CDA-4F6A-88D1-1D2DFD2CF75E}.jpeg

    本贴主角,甘愿当各个在线AGENT 小弟的minimax M3.1 FLASH
    F16权重 252G

    {91D17964-9B90-454B-9CEB-A8526569804F}.jpeg

    被Strata捧红的当红炸子鸡
    F16权重 360G

    如果按QFN3.8的IQ3_S 体积来换算:
    {967FF798-4019-42CC-B21E-7B0F31E7E508}.jpeg

    总体积小了,但是激活参数较高,现在流畅跑QFN3.8的硬件不一定能带得动。
    {2AE8951B-969C-4995-88FE-0C6491083F72}.jpeg

    {DDC3686B-C52C-4F89-8D21-E051A426234F}.jpeg

    unsloth已经在制作中
    {8B4825D7-932F-40B7-A7F3-26E33B9BBE47}.jpeg

    双卡3090 PCIE 4.0 16X/16X

    白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
    夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
    1 条回复 最后回复
    2
    • terryT
      terryT
      terry
      易有太极
      编写于 最后由 编辑
      #2

      吹牛逼严重,最后还是DS能干活。被骗多了都麻木了。

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      0
      • kop wangK
        kop wangK
        kop wang
        易有太极
        编写于 最后由 编辑
        #3

        可能跑分不太能精准表达模型的能力,但是这张质价比图还是有些信息量的:
        image.jpeg

        虚心交流,一起进步

        fanweng-codeF 1 条回复 最后回复
        1
        • Hackner WeinlandH
          Hackner WeinlandH
          Hackner Weinland
          编写于 最后由 编辑
          #4

          这张图里面qwen 3.8 27b居然比这两个都要高

          1 条回复 最后回复
          0
          • kos orK
            kos orK
            kos or
            至尊皇帝
            编写于 最后由 编辑
            #5

            Minimax Flash 衝一波
            2個禮拜後 換Qwen4.0-27B 上場?

            1 条回复 最后回复
            0
            • kop wangK kop wang

              可能跑分不太能精准表达模型的能力,但是这张质价比图还是有些信息量的:
              image.jpeg

              fanweng-codeF
              fanweng-codeF
              fanweng-code
              体面乡绅
              编写于 最后由 编辑
              #6

              @kop-wang

              image.jpeg

              看圖左邊綠框附近這幾個模型(DS V4.1 flash 1017, MiniMax M3.1 flash, GLM 5.3 flash, Qwen3.8 ) 的能力都在伯仲之間,大約40分到45分區間,能力上沒有多少差距,個人測試困難問題的實戰無論是Deepseek或是qwen都是不行的😖

              但部署的難度大有不同

              比較項目 Qwen3.8 Flash-Next MiniMax M3.1 Flash DeepSeek V4.1 Flash GLM-5.3 Flash
              總參數 125B 主幹 + 51B N-gram;另有可選 MTP 428B 552B 主幹 + 196B Engram 320B
              活躍參數 6B 23B Prefill 8B/Decode 16B 18B
              基本架構 MoE + GDN + QSA MoE + MSA MoE + CED + CSA2 MoE + KDA + Sparse Attention
              注意力設計 以 Gated DeltaNet 為主,搭配稀疏注意力 多層 MSA 稀疏注意力 Encoder/Decoder 與跨層 KV 共用 線性注意力搭配稀疏注意力
              特殊機制 N-gram、Gated Residual、MTP NVFP4 QAT、DSpark Engram、FP4 KV、DSpark mHC、MTP
              Context 規格上限 262K 1M 1M 1M
              本人Decode 實測 約 86 tok/s 未測 約 17.07 tok/s 未測
              1 条回复 最后回复
              1
              • stxpnetS
                stxpnetS
                stxpnet
                王侯将相
                编写于 最后由 编辑
                #7

                利用本地的话,主要是做子AGENT降低TOKEN消耗,以及白天对抗国内API高峰时的降速,我只想到一种玩法,白天用QFN 3.8快速协助工作。 晚上再换上大参数的在线API,带着本地DEEPSEEK或者MINIMAX 继续打磨,复核。

                双卡3090 PCIE 4.0 16X/16X

                白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                1 条回复 最后回复
                1
                • gao GaoG
                  gao GaoG
                  gao Gao
                  编写于 最后由 编辑
                  #8

                  我白天用 minimax 在线的 自己断线了,只能用本地 qwen next

                  1 条回复 最后回复
                  0
                  • farmer nodeF
                    farmer nodeF
                    farmer node
                    体面乡绅 硕果累累
                    编写于 最后由 编辑
                    #9

                    minimax M3 真的是一言难尽,这个是为一个买了订阅而不用的模型

                    1 条回复 最后回复
                    0

                    你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                    厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                    有了你的建议,这篇帖子会更精彩哦 💗

                    注册 登录
                    回复
                    • 在新帖中回复
                    登录后回复
                    • 从旧到新
                    • 从新到旧
                    • 最多赞同


                    • 登录

                    • 登录或注册以进行搜索。
                    • 第一个帖子
                      最后一个帖子
                    0
                    • 版块
                    • 最新
                    • 标签
                    • 热门
                    • 用户
                    • 群组