跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. LLM讨论区
  3. Qwen3.6-35B Q8_K_P量化配合CC搞出的八卦页面也不错

Qwen3.6-35B Q8_K_P量化配合CC搞出的八卦页面也不错

已定时 已固定 已锁定 已移动 LLM讨论区
7 帖子 5 发布者 144 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • czyC 离线
    czyC 离线
    czy
    发表于 最后由 编辑
    #1

    主要配置:5080 + 64GB内存
    使用模型:Qwen3.6-35B-A3B-Uncensored-Genesis-MTP-Q8_K_P.gguf
    启动参数:--seed 42 --parallel 1 -ctk q8_0 -ctv q8_0 --ctx-size 262144 --temp 0.6 --top-k 20 --presence-penalty 0.0 --top-p 0.95 --min-p 0.0 --chat-template-file chat_template.jinja --no-mmap --mlock --flash-attn on -t 12 -b 512 -ub 128 --spec-type draft-mtp

    初始显存占用14.7GB,剩余可用内存20GB+,吐字45~48 t/s,

    e3a73138-90af-4d19-9622-2c241c601a36-image.jpeg

    9a154dc0-ef9f-4746-bd89-1da95ff14ecf-image.jpeg

    8b66120b-6164-4814-b10f-6118c1443d1c-image.jpeg

    最终效果

    1 条回复 最后回复
    2
    • kop wangK 在线
      kop wangK 在线
      kop wang
      超级版主
      发表于 最后由 编辑
      #2

      确实不错,Q8量化也有很大的帮助。

      btw:各种Benchmark反复证明,Coding这个场景其实用不了多少参数。deepseek-v4-flash也证明了这点。
      v4-flash的激活参数只有13B,但是Coding能力也逼近一线模型能力。总体在二线偏上的位置。

      虚心交流,一起进步

      1 条回复 最后回复
      0
      • Hank WangH 离线
        Hank WangH 离线
        Hank Wang
        发表于 最后由 编辑
        #3

        CC在这里起作用没有?

        1 条回复 最后回复
        0
        • Tony WangT 离线
          Tony WangT 离线
          Tony Wang
          超级版主
          发表于 最后由 编辑
          #4

          样子看着不错, 不过内容不正确, 35A3 的智力不够.

          • 方位不对, 这个图是乱的, 不符合文王八卦, 也不符合伏羲八卦
          • 符号不对, 巽 反了, 震和艮 都反了
          czyC terryT 2 条回复 最后回复
          0
          • Tony WangT Tony Wang

            样子看着不错, 不过内容不正确, 35A3 的智力不够.

            • 方位不对, 这个图是乱的, 不符合文王八卦, 也不符合伏羲八卦
            • 符号不对, 巽 反了, 震和艮 都反了
            czyC 离线
            czyC 离线
            czy
            发表于 最后由 编辑
            #5

            @Hank-Wang CC配switch使用简单,加 --dangerously-skip-permissions 全自动写代码

            @Tony-Wang 多谢指正,让CC去修改了

            Tony WangT 1 条回复 最后回复
            1
            • czyC czy

              @Hank-Wang CC配switch使用简单,加 --dangerously-skip-permissions 全自动写代码

              @Tony-Wang 多谢指正,让CC去修改了

              Tony WangT 离线
              Tony WangT 离线
              Tony Wang
              超级版主
              发表于 最后由 编辑
              #6

              @czy

              客气了, 分享一个口诀, 很容易记忆:

              乾三连, 坤六断, 离中虚, 坎中满.
              兑上缺, 巽下断, 震仰盂, 艮覆碗.
              🙂

              1 条回复 最后回复
              0
              • Tony WangT Tony Wang

                样子看着不错, 不过内容不正确, 35A3 的智力不够.

                • 方位不对, 这个图是乱的, 不符合文王八卦, 也不符合伏羲八卦
                • 符号不对, 巽 反了, 震和艮 都反了
                terryT 离线
                terryT 离线
                terry
                超级版主
                发表于 最后由 编辑
                #7

                @Tony-Wang 这个很正常,AI页面基本都如此。

                油管:https://www.youtube.com/@抡锤者

                1 条回复 最后回复
                0

                你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                有了你的建议,这篇帖子会更精彩哦 💗

                注册 登录
                回复
                • 在新帖中回复
                登录后回复
                • 从旧到新
                • 从新到旧
                • 最多赞同


                • 登录

                • 没有帐号? 注册

                • 第一个帖子
                  最后一个帖子
                0
                • 版块
                • 最新
                • 标签
                • 热门
                • 用户
                • 群组