跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. LLM讨论区
  4. Qwen3.8-27B-Q4_K_M 極端測驗

Qwen3.8-27B-Q4_K_M 極端測驗

已定时 已固定 已锁定 已移动 LLM讨论区
qwen-27b量化
14 帖子 8 发布者 881 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • williamlouisW
    williamlouisW
    williamlouis
    易有太极
    发表于 最后由 编辑
    #4

    参照我的模型联网帖。联网后就解决了。

    个人主页:xlkj.org Telegram https://t.me/xlkjorg

    1 条回复 最后回复
    0
    • 艷陽天艷
      艷陽天艷
      艷陽天
      发表于 最后由 编辑
      #5

      我更换了之后测试一下,发现它的速度比3.6版的还慢,之前3.6版的token有44 t/s,3.8版的剩下34 t/s

      1 条回复 最后回复
      0
      • K
        K
        kenshin
        体面乡绅 硕果累累
        发表于 最后由 编辑
        #6

        7900xtx,去升级vulkan驱动。昨晚升级了。Qwen3.8-27B跑最高tg70+ t/s。pp和原来差不多。

        1 条回复 最后回复
        0
        • Grayson RenG
          Grayson RenG
          Grayson Ren
          发表于 最后由 编辑
          #7

          看起来不错 赶紧操练起来

          1 条回复 最后回复
          0
          • V
            V
            vosrock
            体面乡绅 硕果累累
            发表于 最后由 编辑
            #8

            讲真,基于Q4 KM量化的模型,3.8没有给到我惊艳的感觉,我现在用的是THINKCAP的模型,相当于是社区对3。6长期优化版本,体验比3.8要好的多

            kos orK 1 条回复 最后回复
            0
            • V
              V
              vosrock
              体面乡绅 硕果累累
              发表于 最后由 编辑
              #9

              要想3.8的27B好用,还需要时间

              1 条回复 最后回复
              0
              • V vosrock

                讲真,基于Q4 KM量化的模型,3.8没有给到我惊艳的感觉,我现在用的是THINKCAP的模型,相当于是社区对3。6长期优化版本,体验比3.8要好的多

                kos orK
                kos orK
                kos or
                至尊皇帝
                发表于 最后由 kos or 编辑
                #10

                @vosrock said:

                我现在用的是THINKCAP的模型,相当于是社区对3。6长期优化版本,体验比3.8要好的多

                我還沒測試過agentic use, 等之後看看社區能不能優化,
                我對模型的解題能力有興趣, 能應付得了前沿模型的測試 對於27B模型來說 算是蠻厲害的了 不過我還沒用相同的問題測試過其他本地模型

                測試過程 其中有一題 GPT5.6-Terra-medium 答錯, Qwen3.8答對, GPT-Luna-max 答對

                1 条回复 最后回复
                0
                • W
                  W
                  whynot
                  发表于 最后由 编辑
                  #11

                  昨天试了3.8 27b, 3.6 27b完美完成的贪吃蛇和坦克大战,居然q4kl,Q5都没有完成,反复修改两次,也没有成功。不过画面的确比3.6好不少,只是无法运行。

                  kos orK 1 条回复 最后回复
                  0
                  • stxpnetS
                    stxpnetS
                    stxpnet
                    王侯将相
                    发表于 最后由 编辑
                    #12

                    有两个坑,一是说内部思维链比3.6长,另一个是说 要用新的v22的chat template才能适配 3.8

                    双卡3090 PCIE 4.0 16X/16X

                    白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                    夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                    kos orK 1 条回复 最后回复
                    1
                    • W whynot

                      昨天试了3.8 27b, 3.6 27b完美完成的贪吃蛇和坦克大战,居然q4kl,Q5都没有完成,反复修改两次,也没有成功。不过画面的确比3.6好不少,只是无法运行。

                      kos orK
                      kos orK
                      kos or
                      至尊皇帝
                      发表于 最后由 kos or 编辑
                      #13

                      @whynot

                      這是Reddit上網友的分享 貪食蛇遊戲 很好玩

                      https://s3.fursov.family/shares/snake3d.html

                      " slavik-dev•1天前 我有一個問題,沒有一個模型能夠給出令人滿意的結果,只有 Opus 能夠做到。And this model Qwen3.8 (using UD-Q5_K_XL) did it! "

                      prompt :

                      write snake game on the sphere. The head of the snake it fixed in the center and the sphere is rotating. use HTML, CSS and JavaScript.
                      The visible part of sphere shall be fully visible in the webView, not partially.
                      The starting length of the snake shall be 3 and increasing every time the snake hit the food.
                      Use keyboard control: LEFT and RIGHT arrows.
                      

                      翻譯後的中文Prompt:

                      在球體上寫一個貪吃蛇遊戲。蛇頭固定在球體中心,球體旋轉。使用 HTML、CSS 和 JavaScript。
                      球體的可見部分在 webView 中應完全可見,而不是部分可見。
                      蛇的初始長度為 3,每次蛇碰到食物後長度都會增加。
                      使用鍵盤控制:左箭頭和右箭頭。
                      
                      1 条回复 最后回复
                      0
                      • stxpnetS stxpnet

                        有两个坑,一是说内部思维链比3.6长,另一个是说 要用新的v22的chat template才能适配 3.8

                        kos orK
                        kos orK
                        kos or
                        至尊皇帝
                        发表于 最后由 编辑
                        #14

                        @stxpnet said:

                        一是说内部思维链比3.6长

                        我昨天第一次測試的極限考題, 是前一段時間Gemini Pro 出的
                        沒想到Gemini Pro自己也出亂子, 本來應該是唯一解, 變成居然有11種解法,
                        但題目又告訴其他受測AI是唯一解, Qwen3.8 就一直算這唯一解output 2萬多個tokens , 我就把它關了;

                        最後是GPT5.6-SOL 解出來說不可能有唯一解, 而是有11解; 極限考題最後由SOL幫忙改設計成唯一解

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组