跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 新无审查版(484K)来了!Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF 完全支持Strata

新无审查版(484K)来了!Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF 完全支持Strata

已定时 已固定 已锁定 已移动 热议 LLM讨论区
qwen-flashstrata量化
25 帖子 16 发布者 2.3k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Moor WuM Moor Wu

    strata不是有个参数来执行期协助去审查了么?

    perterP
    perterP
    perter
    德高望重 劳动模范
    编写于 最后由 编辑
    #4

    @Moor-Wu

    EXPERIMENTAL - speed projection: a small control vector applied while the model runs (layers 4-44).
     It changes how the model answers: its package describes it as a refusal-direction projection (the
     model declines far fewer requests). Off unless you choose it; when on, the web app can switch it off
     per chat. Details: data/experimental-speed-projection/README.md
    Turn on the experimental speed projection? [n]:
    

    这个参数吗?实际上并不能完全无审查。

    1 条回复 最后回复
    0
    • terryT
      terryT
      terry
      超级版主
      编写于 最后由 编辑
      #5

      非常牛的分享,这个很重要!去审查,是很多男人的刚需。

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      1
      • ,terryT terry 固定了此主题
      • fanweng-codeF
        fanweng-codeF
        fanweng-code
        编写于 最后由 编辑
        #6

        去審查版有很多了
        但Strata版本的現在就這一個

        1 条回复 最后回复
        1
        • 拐
          拐
          拐子001
          编写于 最后由 编辑
          #7

          尝试了下,硬件是7900xtx+x99 感觉响应好慢。能输出,速度50+但是问题扔给它,得有好几分种才后才会有反应。

          perterP 1 条回复 最后回复
          0
          • 拐 拐子001

            尝试了下,硬件是7900xtx+x99 感觉响应好慢。能输出,速度50+但是问题扔给它,得有好几分种才后才会有反应。

            perterP
            perterP
            perter
            德高望重 劳动模范
            编写于 最后由 编辑
            #8

            @拐子001
            具体是什么现象,默认思考模式是high,尝试关闭思考模式或者降低一些。

            1 条回复 最后回复
            0
            • A
              A
              applejuice
              技术大牛 劳动模范
              编写于 最后由 编辑
              #9

              我的设置 即使用medium 思考模式 都一直重复
              一直重复然后 hermes 打断

              有没有大神遇过解决了

              perterP 1 条回复 最后回复
              0
              • A applejuice

                我的设置 即使用medium 思考模式 都一直重复
                一直重复然后 hermes 打断

                有没有大神遇过解决了

                perterP
                perterP
                perter
                德高望重 劳动模范
                编写于 最后由 编辑
                #10

                @applejuice
                看看下面这个帖子,可能和你情况差不多。
                https://lcz.me/topic/2081

                1 条回复 最后回复
                0
                • stxpnetS
                  stxpnetS
                  stxpnet
                  超凡大师
                  编写于 最后由 编辑
                  #11
                  模式 temperature top_p top_k min_p presence_penalty repetition_penalty
                  思考模式(规划/复杂任务) 1.0 0.95 20 0.0 0.0 1.0
                  Instruct 模式(日常对话/直答) 0.7 0.80 20 0.0 1.5 1.0

                  模型自身的WEB界面可以改。 其它地方最好在客户端修改,我是架设的NEW API在中间调节。

                  双卡3090 PCIE 4.0 16X/16X

                  白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                  夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                  1 条回复 最后回复
                  0
                  • NY ZhaoN
                    NY ZhaoN
                    NY Zhao
                    编写于 最后由 编辑
                    #12

                    哈哈,刚下了,太好用了,已经完全抛弃了sglang+27b+dflash了,聪明太多了

                    1 条回复 最后回复
                    0
                    • Queen LauraQ
                      Queen LauraQ
                      Queen Laura
                      德高望重
                      编写于 最后由 编辑
                      #13

                      赞一个,去审查非常有必要XD

                      1 条回复 最后回复
                      0
                      • XiaoteX
                        XiaoteX
                        Xiaote
                        编写于 最后由 编辑
                        #14

                        🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!

                        奖励凭证:热议 +3 分 · 编号 h2079-1997-1(系统自动发放,显示稍有延迟)

                        老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                        1 条回复 最后回复
                        0
                        • perterP
                          perterP
                          perter
                          德高望重 劳动模范
                          编写于 最后由 编辑
                          #15

                          Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF 的能力完全可以自己创作一点小说了。

                          image.jpeg

                          下面的内容少儿不易,自己去本地尝试吧。

                          1 条回复 最后回复
                          0
                          • xiaopbroX
                            xiaopbroX
                            xiaopbro
                            德高望重
                            编写于 最后由 编辑
                            #16

                            感谢分享,一直在等这个

                            1 条回复 最后回复
                            0
                            • xiaopbroX
                              xiaopbroX
                              xiaopbro
                              德高望重
                              编写于 最后由 编辑
                              #17
                              此主題已被删除!
                              1 条回复 最后回复
                              0
                              • ,Data WuD Data Wu 引用了 此主题
                              • gao GaoG
                                gao GaoG
                                gao Gao
                                编写于 最后由 编辑
                                #18

                                汇报下,感谢楼主,今天突发奇想,有个小众的软件需要注册码付费, 我让这个版本跑了3个小时居然破解登录了 牛!

                                perterP johnnybegoodJ 2 条回复 最后回复
                                1
                                • gao GaoG gao Gao

                                  汇报下,感谢楼主,今天突发奇想,有个小众的软件需要注册码付费, 我让这个版本跑了3个小时居然破解登录了 牛!

                                  perterP
                                  perterP
                                  perter
                                  德高望重 劳动模范
                                  编写于 最后由 编辑
                                  #19

                                  @gao-Gao
                                  好的,低调使用。

                                  1 条回复 最后回复
                                  0
                                  • titomokT
                                    titomokT
                                    titomok
                                    编写于 最后由 编辑
                                    #20

                                    抄功課來了,剛剛手動安裝一直鬼打牆地報錯。
                                    之後用Ai 幫忙安裝,找了大半小時之後才發現是cuda version不對,現在終於能跑起來了,之再慢慢測試看看,感謝🙏

                                    1 条回复 最后回复
                                    0
                                    • kos orK
                                      kos orK
                                      kos or
                                      超凡大师
                                      编写于 最后由 编辑
                                      #21

                                      大MoE, 我的2T SSD 快空間不足了 !! 哈

                                      perterP 1 条回复 最后回复
                                      0
                                      • ,系统 取消固定了此主题
                                      • kos orK kos or

                                        大MoE, 我的2T SSD 快空間不足了 !! 哈

                                        perterP
                                        perterP
                                        perter
                                        德高望重 劳动模范
                                        编写于 最后由 编辑
                                        #22

                                        @kos-or
                                        追加了全新去审查方法 (不用重新下载权重文件)

                                        kos orK 1 条回复 最后回复
                                        0
                                        • perterP perter

                                          @kos-or
                                          追加了全新去审查方法 (不用重新下载权重文件)

                                          kos orK
                                          kos orK
                                          kos or
                                          超凡大师
                                          编写于 最后由 编辑
                                          #23

                                          @perter

                                          收到 ~ 有看到了謝謝 真是太好了 😊
                                          否則SSD 壓力太大了

                                          1 条回复 最后回复
                                          1

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组