跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 【分享】无审查版DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF

【分享】无审查版DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF

已定时 已固定 已锁定 已移动 LLM讨论区
deepseek量化本地模型
9 帖子 7 发布者 740 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • perterP
    perterP
    perter
    王侯将相
    编写于 最后由 编辑
    #1

    🧩 1. 模型简介

    DeepSeek‑V4.1‑Flash‑1017‑Uncensored‑GSQ‑RCO‑IQ2_XXS‑GGUF基于:

    • 列表DeepSeek 官方模型:DeepSeek‑V4.1‑Flash‑1017
    • ISTA‑DASLab 的 GSQ‑RCO 量化版本
    • AtomicChat 的 Uncensored(去拒答)修改

    然后作者 Abiray 将去拒答修改 直接写入模型权重,生成新的 GGUF 文件。


    🧬 2. 为什么叫 Zero-LoRA?

    所有 86 个修改过的 tensor 已经直接写回 GGUF 主模型,不需要运行时加载 LoRA。。

    优点:

    • 启动更简单
    • 不需要额外 Adapter
    • 推理速度不会因为 LoRA 增加开销
    • llama.cpp / Strata 更容易兼容

    ⚙️ 3. 性能影响

    这是 ISTA‑DASLab 的量化技术。项目宣称:

    • 保留了 28 个 IQ1_M 路由专家层
    • 保留了 GSQ 校准结果
    • 尽可能保持原模型能力不损失

    可以理解成:
    总体性能几乎与上游一致。


    🔧 4. 下载地址

    需要本地执行,并且有去审查需要的可以在下面地址下载。

    无审查版DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF

    1 条回复 最后回复
    3
    • terryT
      terryT
      terry
      易有太极
      编写于 最后由 编辑
      #2

      我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

      油管:https://www.youtube.com/@抡锤者

      perterP 1 条回复 最后回复
      0
      • terryT terry

        我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

        perterP
        perterP
        perter
        王侯将相
        编写于 最后由 编辑
        #3

        @terry 说:

        我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

        怎么说呢?至少比1-bit 版本(Unsloth 的 UD-IQ1_S 和 UD-IQ1_M DeepSeek )强一点点。
        image.jpeg

        张光璞张 1 条回复 最后回复
        2
        • perterP perter

          @terry 说:

          我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

          怎么说呢?至少比1-bit 版本(Unsloth 的 UD-IQ1_S 和 UD-IQ1_M DeepSeek )强一点点。
          image.jpeg

          张光璞张
          张光璞张
          张光璞
          贵族大夫 硕果累累
          编写于 最后由 编辑
          #4

          @perter 说:

          @terry 说:

          我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

          怎么说呢?至少比1-bit 版本(Unsloth 的 UD-IQ1_S 和 UD-IQ1_M DeepSeek )强一点点。

          1bit 差不多是这个智力了吧

          image.jpeg

          paul houP xiongjie gaoX C 3 条回复 最后回复
          0
          • 张光璞张 张光璞

            @perter 说:

            @terry 说:

            我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

            怎么说呢?至少比1-bit 版本(Unsloth 的 UD-IQ1_S 和 UD-IQ1_M DeepSeek )强一点点。

            1bit 差不多是这个智力了吧

            image.jpeg

            paul houP
            paul houP
            paul hou
            硕果累累 贵族大夫
            编写于 最后由 编辑
            #5

            @张光璞
            我覺得豆姊還是強過GEMINI網頁版的。

            张光璞张 1 条回复 最后回复
            0
            • 张光璞张 张光璞

              @perter 说:

              @terry 说:

              我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

              怎么说呢?至少比1-bit 版本(Unsloth 的 UD-IQ1_S 和 UD-IQ1_M DeepSeek )强一点点。

              1bit 差不多是这个智力了吧

              image.jpeg

              xiongjie gaoX
              xiongjie gaoX
              xiongjie gao
              王侯将相
              编写于 最后由 编辑
              #6

              @张光璞 哈哈哈哈哈哈哈哈噗

              https://github.com/shawn86574-prog/x99-7900xtx-p2p
              https://github.com/shawn86574-prog/kuzuryusen

              1 条回复 最后回复
              0
              • paul houP paul hou

                @张光璞
                我覺得豆姊還是強過GEMINI網頁版的。

                张光璞张
                张光璞张
                张光璞
                贵族大夫 硕果累累
                编写于 最后由 编辑
                #7

                @paul-hou 说:

                @张光璞
                我覺得豆姊還是強過GEMINI網頁版的。

                毕竟北美豆包

                1 条回复 最后回复
                0
                • 张光璞张 张光璞

                  @perter 说:

                  @terry 说:

                  我一直疑惑,IQ2真特么能干活吗?这都量化到姥姥家了。

                  怎么说呢?至少比1-bit 版本(Unsloth 的 UD-IQ1_S 和 UD-IQ1_M DeepSeek )强一点点。

                  1bit 差不多是这个智力了吧

                  image.jpeg

                  C
                  C
                  csmkaka
                  编写于 最后由 编辑
                  #8

                  @张光璞 看到这图 有点没绷住 哈哈哈哈哈哈哈哈哈哈

                  1 条回复 最后回复
                  0
                  • stxpnetS
                    stxpnetS
                    stxpnet
                    王侯将相
                    编写于 最后由 编辑
                    #9

                    deepseek应该是可以跑的,这可是763B A16B啊, 我在X上面经常看有些2BIT说跑得多好的。 保留80%的能力还是要比 QFN3.8应该要强一些,下面就看QWEN 4怎样回击了。

                    双卡3090 PCIE 4.0 16X/16X

                    白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                    夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                    1 条回复 最后回复
                    0

                    你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                    厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                    有了你的建议,这篇帖子会更精彩哦 💗

                    注册 登录
                    回复
                    • 在新帖中回复
                    登录后回复
                    • 从旧到新
                    • 从新到旧
                    • 最多赞同


                    • 登录

                    • 登录或注册以进行搜索。
                    • 第一个帖子
                      最后一个帖子
                    0
                    • 版块
                    • 最新
                    • 标签
                    • 热门
                    • 用户
                    • 群组