Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
QAD(量化感知蒸餾)或 QAT(量化感知訓練)幾乎是你唯一應該使用的 NVFP4 模型,完全不要用普通的 NVFP4(即未經微調的 PTQ 量化版本);但通常你得等上好一段時間,因為就算是 QAD/QAT 版本,也不保證品質一定好——有些可能只做了一半,甚至做得非常糟糕。此外,這類量化的製作成本並不便宜,因此通常只有像 NVIDIA 這樣的大型實驗室才負擔得起並做得出來。
我剛剛放到我Basalt上試跑....
https://huggingface.co/nvidia/Qwen3.8-Flash-Next-NVFP4-QAD
不错。有更新下本地的欲望。 有空试试。
連官方都要蒸兩個多月 看來NVFP4比起Q4確實成本高太多了
这个有点NB了, 希望不要被皿煮党封杀了。 X上有人都在发未审核版的种子合集了。。。
QAD 被刪除了 ? 真夠奇怪 難道是有問題倉促上路?
下載到一半被斷網 OOXX
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。
有了你的建议,这篇帖子会更精彩哦 💗