跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 我的dsh 聊聊。。。纯粹聊聊,暂时不分享技术

我的dsh 聊聊。。。纯粹聊聊,暂时不分享技术

已定时 已固定 已锁定 已移动 随便聊聊
dsharness编程
36 帖子 8 发布者 1.4k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • stxpnetS
    stxpnetS
    stxpnet
    王侯将相
    编写于 最后由 编辑
    #27

    GITHUB上有个dsh自动继续的插件,我安装了,然后让DSH自己魔改一下,增加一个开关在对话框那里,让它自动继续。。。。

    双卡3090 PCIE 4.0 16X/16X

    白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
    夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
    imbiplaza ASUSI 1 条回复 最后回复
    0
    • stxpnetS stxpnet

      GITHUB上有个dsh自动继续的插件,我安装了,然后让DSH自己魔改一下,增加一个开关在对话框那里,让它自动继续。。。。

      imbiplaza ASUSI
      imbiplaza ASUSI
      imbiplaza ASUS
      谪仙人
      编写于 最后由 编辑
      #28

      @stxpnet

      刚刚使用codex 解决了,原来是我的128k 上下文作怪,改成152k就可以继续了,但是codex告诉我这是暂时之计,理想值还是262k...

      1 条回复 最后回复
      0
      • BunseiB Bunsei

        @imbiplaza-ASUS 说:

        看来我是唯一一个坚守qwen3.8 27b 的人,今天不懂发生什么事情,遇上

        I found that the request header config is empty with reserved=128000, and most compression failures are due to "summarization produced no text summary content" plus one pi-ai context overflow. Now I'll check the summarizer's model selection and overflow detection logic.

        查一下 pi-ai 的 isContextOverflow 判定条件,确认 64.9K 停止时是怎么被识别成 overflow 的。

        奇怪之前连续48小时都没这种问题,我还可以用我自己开发的app 利用qwen3.8 出40万字的json...

        唯独在dsh 莫名其妙卡这种问题。。。

        又要让我的codex去鞭挞dsh一下

        手痒,之前0.1.5 连续1000亿token没停工,升级到0.2.0rc1 就发生奇奇怪怪的状况

        今天提起心肝清扫200gb 的旧模型,准备迎接100gb模型

        其实还有我... 😳

        imbiplaza ASUSI
        imbiplaza ASUSI
        imbiplaza ASUS
        谪仙人
        编写于 最后由 编辑
        #29

        @Bunsei

        我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

        BunseiB 1 条回复 最后回复
        0
        • imbiplaza ASUSI imbiplaza ASUS

          @Bunsei

          我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

          BunseiB
          BunseiB
          Bunsei
          贵族大夫 硕果累累
          编写于 最后由 Bunsei 编辑
          #30

          @imbiplaza-ASUS 说:

          @Bunsei

          我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

          其实我实际开发环境下跑了一段时间,对比后发现如果你的意图比较模糊,类似让她实现一个什么功能可以用Q38FN,如果你的任务明确,比如完成什么样的功能修改哪些文件Q38-27B就是最好的了。

          imbiplaza ASUSI 1 条回复 最后回复
          0
          • BunseiB Bunsei

            @imbiplaza-ASUS 说:

            @Bunsei

            我在大部分时间可以输出 50 - 75ts 之内,好像没有什么欲望想上strata

            其实我实际开发环境下跑了一段时间,对比后发现如果你的意图比较模糊,类似让她实现一个什么功能可以用Q38FN,如果你的任务明确,比如完成什么样的功能修改哪些文件Q38-27B就是最好的了。

            imbiplaza ASUSI
            imbiplaza ASUSI
            imbiplaza ASUS
            谪仙人
            编写于 最后由 编辑
            #31

            @Bunsei

            我还是等q4...我觉得他们可能会直接内置strata...就好像当初q3.6 a3b 那样。。

            1 条回复 最后回复
            0
            • Tony WangT
              Tony WangT
              Tony Wang
              易有太极
              编写于 最后由 编辑
              #32

              坚守27B的还有我, 我在等 27B 4.0 还是 QFN nvfp4 的成熟版, 哪一个先到.

              1 条回复 最后回复
              0
              • imbiplaza ASUSI
                imbiplaza ASUSI
                imbiplaza ASUS
                谪仙人
                编写于 最后由 编辑
                #33

                忍不住了。。。最终:

                image.jpeg

                1 条回复 最后回复
                1
                • terryT
                  terryT
                  terry
                  易有太极
                  编写于 最后由 编辑
                  #34

                  我弟你赶紧弄个新配置,别捣鼓现在这个了,不然你抡锤者社区达文西身份不保😂

                  油管:https://www.youtube.com/@抡锤者

                  imbiplaza ASUSI 1 条回复 最后回复
                  0
                  • terryT terry

                    我弟你赶紧弄个新配置,别捣鼓现在这个了,不然你抡锤者社区达文西身份不保😂

                    imbiplaza ASUSI
                    imbiplaza ASUSI
                    imbiplaza ASUS
                    谪仙人
                    编写于 最后由 编辑
                    #35

                    @terry

                    年尾的繁杂事情太多,要先安排买那个x99tf + 128g

                    terryT 1 条回复 最后回复
                    1
                    • imbiplaza ASUSI imbiplaza ASUS

                      @terry

                      年尾的繁杂事情太多,要先安排买那个x99tf + 128g

                      terryT
                      terryT
                      terry
                      易有太极
                      编写于 最后由 编辑
                      #36

                      @imbiplaza-ASUS 可以,燥起来

                      油管:https://www.youtube.com/@抡锤者

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组