跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 我的dsh 聊聊。。。纯粹聊聊,暂时不分享技术

我的dsh 聊聊。。。纯粹聊聊,暂时不分享技术

已定时 已固定 已锁定 已移动 随便聊聊
dsharness编程
36 帖子 8 发布者 1.4k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • imbiplaza ASUSI imbiplaza ASUS

    看来我是唯一一个坚守qwen3.8 27b 的人,今天不懂发生什么事情,遇上

    I found that the request header config is empty with reserved=128000, and most compression failures are due to "summarization produced no text summary content" plus one pi-ai context overflow. Now I'll check the summarizer's model selection and overflow detection logic.

    查一下 pi-ai 的 isContextOverflow 判定条件,确认 64.9K 停止时是怎么被识别成 overflow 的。

    奇怪之前连续48小时都没这种问题,我还可以用我自己开发的app 利用qwen3.8 出40万字的json...

    唯独在dsh 莫名其妙卡这种问题。。。

    又要让我的codex去鞭挞dsh一下

    手痒,之前0.1.5 连续1000亿token没停工,升级到0.2.0rc1 就发生奇奇怪怪的状况

    今天提起心肝清扫200gb 的旧模型,准备迎接100gb模型

    BunseiB
    BunseiB
    Bunsei
    贵族大夫 硕果累累
    编写于 最后由 编辑
    #26

    @imbiplaza-ASUS 说:

    看来我是唯一一个坚守qwen3.8 27b 的人,今天不懂发生什么事情,遇上

    I found that the request header config is empty with reserved=128000, and most compression failures are due to "summarization produced no text summary content" plus one pi-ai context overflow. Now I'll check the summarizer's model selection and overflow detection logic.

    查一下 pi-ai 的 isContextOverflow 判定条件,确认 64.9K 停止时是怎么被识别成 overflow 的。

    奇怪之前连续48小时都没这种问题,我还可以用我自己开发的app 利用qwen3.8 出40万字的json...

    唯独在dsh 莫名其妙卡这种问题。。。

    又要让我的codex去鞭挞dsh一下

    手痒,之前0.1.5 连续1000亿token没停工,升级到0.2.0rc1 就发生奇奇怪怪的状况

    今天提起心肝清扫200gb 的旧模型,准备迎接100gb模型

    其实还有我... 😳

    imbiplaza ASUSI 1 条回复 最后回复
    0
    • stxpnetS
      stxpnetS
      stxpnet
      王侯将相
      编写于 最后由 编辑
      #27

      GITHUB上有个dsh自动继续的插件,我安装了,然后让DSH自己魔改一下,增加一个开关在对话框那里,让它自动继续。。。。

      双卡3090 PCIE 4.0 16X/16X

      白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
      夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
      imbiplaza ASUSI 1 条回复 最后回复
      0
      • stxpnetS stxpnet

        GITHUB上有个dsh自动继续的插件,我安装了,然后让DSH自己魔改一下,增加一个开关在对话框那里,让它自动继续。。。。

        imbiplaza ASUSI
        imbiplaza ASUSI
        imbiplaza ASUS
        谪仙人
        编写于 最后由 编辑
        #28

        @stxpnet

        刚刚使用codex 解决了,原来是我的128k 上下文作怪,改成152k就可以继续了,但是codex告诉我这是暂时之计,理想值还是262k...

        1 条回复 最后回复
        0
        • BunseiB Bunsei

          @imbiplaza-ASUS 说:

          看来我是唯一一个坚守qwen3.8 27b 的人,今天不懂发生什么事情,遇上

          I found that the request header config is empty with reserved=128000, and most compression failures are due to "summarization produced no text summary content" plus one pi-ai context overflow. Now I'll check the summarizer's model selection and overflow detection logic.

          查一下 pi-ai 的 isContextOverflow 判定条件,确认 64.9K 停止时是怎么被识别成 overflow 的。

          奇怪之前连续48小时都没这种问题,我还可以用我自己开发的app 利用qwen3.8 出40万字的json...

          唯独在dsh 莫名其妙卡这种问题。。。

          又要让我的codex去鞭挞dsh一下

          手痒,之前0.1.5 连续1000亿token没停工,升级到0.2.0rc1 就发生奇奇怪怪的状况

          今天提起心肝清扫200gb 的旧模型,准备迎接100gb模型

          其实还有我... 😳

          imbiplaza ASUSI
          imbiplaza ASUSI
          imbiplaza ASUS
          谪仙人
          编写于 最后由 编辑
          #29

          @Bunsei

          我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

          BunseiB 1 条回复 最后回复
          0
          • imbiplaza ASUSI imbiplaza ASUS

            @Bunsei

            我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

            BunseiB
            BunseiB
            Bunsei
            贵族大夫 硕果累累
            编写于 最后由 Bunsei 编辑
            #30

            @imbiplaza-ASUS 说:

            @Bunsei

            我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

            其实我实际开发环境下跑了一段时间,对比后发现如果你的意图比较模糊,类似让她实现一个什么功能可以用Q38FN,如果你的任务明确,比如完成什么样的功能修改哪些文件Q38-27B就是最好的了。

            imbiplaza ASUSI 1 条回复 最后回复
            0
            • BunseiB Bunsei

              @imbiplaza-ASUS 说:

              @Bunsei

              我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

              其实我实际开发环境下跑了一段时间,对比后发现如果你的意图比较模糊,类似让她实现一个什么功能可以用Q38FN,如果你的任务明确,比如完成什么样的功能修改哪些文件Q38-27B就是最好的了。

              imbiplaza ASUSI
              imbiplaza ASUSI
              imbiplaza ASUS
              谪仙人
              编写于 最后由 编辑
              #31

              @Bunsei

              我还是等q4...我觉得他们可能会直接内置strata...就好像当初q3.6 a3b 那样。。

              1 条回复 最后回复
              0
              • Tony WangT
                Tony WangT
                Tony Wang
                易有太极
                编写于 最后由 编辑
                #32

                坚守27B的还有我, 我在等 27B 4.0 还是 QFN nvfp4 的成熟版, 哪一个先到.

                1 条回复 最后回复
                0
                • imbiplaza ASUSI
                  imbiplaza ASUSI
                  imbiplaza ASUS
                  谪仙人
                  编写于 最后由 编辑
                  #33

                  忍不住了。。。最终:

                  image.jpeg

                  1 条回复 最后回复
                  1
                  • terryT
                    terryT
                    terry
                    易有太极
                    编写于 最后由 编辑
                    #34

                    我弟你赶紧弄个新配置,别捣鼓现在这个了,不然你抡锤者社区达文西身份不保😂

                    油管:https://www.youtube.com/@抡锤者

                    imbiplaza ASUSI 1 条回复 最后回复
                    0
                    • terryT terry

                      我弟你赶紧弄个新配置,别捣鼓现在这个了,不然你抡锤者社区达文西身份不保😂

                      imbiplaza ASUSI
                      imbiplaza ASUSI
                      imbiplaza ASUS
                      谪仙人
                      编写于 最后由 编辑
                      #35

                      @terry

                      年尾的繁杂事情太多,要先安排买那个x99tf + 128g

                      terryT 1 条回复 最后回复
                      1
                      • imbiplaza ASUSI imbiplaza ASUS

                        @terry

                        年尾的繁杂事情太多,要先安排买那个x99tf + 128g

                        terryT
                        terryT
                        terry
                        易有太极
                        编写于 最后由 编辑
                        #36

                        @imbiplaza-ASUS 可以,燥起来

                        油管:https://www.youtube.com/@抡锤者

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组