qwen3.8-27b无审查量化有没有比较推荐的社区版本,要能做事聪明的。
-
我现在用的是0bserverx/Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF 的 Qwen3.8-27B-RVN-Q4_K_M-multilingual-mtp.gguf
今天又下载了那个排名蹿升比较快的DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF
结果分别出了两道编程题,让豆包替我评分,DavidAU的模型完败,豆包对它的两个答案评价是“ 函数有严重性能缺陷和”致命缺陷,属于错误实现“。
本来看它一堆前缀,介绍里写得也很猛,以为很厉害,结果是个弱智。
坛友有啥其他推荐吗,感觉缺乏这方面的参考,社区模型有没有啥大众点评网

-
我前两天看到有篇文章,介绍说Github上有个项目叫做Heretic,(https://github.com/p-e-w/heretic)
号称是你自己安装以后,可以自行利用你的GPU,对你的现有模型进行自动处理(据称支持绝大多数稠密模型),让其对大量原先拒答问题的拒答比例,100题里面可以降低到只拒答3道,而不降低智力。
我刚刚下载了这个东西,还没在自己的机器上跑,打算回头用它试试看已经下载的FP8,看看能不能自己手搓一个“无拒答版”的Qwen3.8 27B FP8.
如果可能,我觉得就很符合你的要求。
-
YEA,真正拿来投产的存在很多问题,我没用过unslot, 之前专用无审查 llm46fan 也翻车
hauhau, huihui, david, 全部翻车现在换成JonathanColetti,后来找到一个BennyDaBall nvfp4 ,他的source 来自JonathanColetti的,然而两者还没算一个好用的。。。
你不妨试一试,坊间有一句话,难吃的食物不能一个人独享。。。嘿嘿嘿
https://huggingface.co/JonathanColetti/Qwen3.8-27B-Uncensored-GGUF
https://huggingface.co/BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP
-
噩耗,我刚刚去读了一下Heretic的Readme,1B模型需要2.5G Vram,直接判定了此路不通。27B意味着至少需要68G以上的显存才可以支持,24G的得3卡。
-
名字越长越危险,这是识别社区无审查量化的第一把尺。DavidAU 那串「Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP」= 多次 stack-mix + 多次去审查/再蒸馏层层叠加,每加一层就多损失一截,最后把格式和推理都磨没了。豆包评「严重性能缺陷/错误实现」其实吻合这个规律,不是纯玄学。
第二把尺:去审查(abliteration)本身是往残差流里减/推一回拒方向,下刀越狠智商掉越多。稳妥做法是烧窄层段(比如 23-51,别从 18 劈到 51)且 MTP 头别动。huihui 的 update4 系列就是走的 unsloth UD 路线、只烧 23-51 层,相对干净。
第三把尺:别拿豆包这种 LLM-as-judge 当 A/B。它评代码是「像不像错的」,噪音极大。真要选,跑同一套固定 prompt(一组代码题 + 一组「敏感题」),自己量化对比拒答率 + 正确率,而不是让另一个模型打分。
实用建议:24G 单卡就锁 27B Q4_K_M,优先选保留 MTP 头、单遍去审查的(你现在 0bserverx 的 RVN 这类就不错);碰到名号为王、一长串前缀堆砌的直接跳过。Heretic 那个工具提醒一句:它要整模型驻留才能处理,1B≈2.5G,27B 得 68G,24G 卡压根跑不动,别指望本地 24G 手搓出低拒答版。
-
回到 Qwen 3.6 27B 或 A3B 可以。
3.8 太新。
让时间解决这个问题。