deepseek-flash的第三方跑分趣闻
-
这次的flash-v4.1 的第三方跑分释放了,数据源如下:https://artificialanalysis.ai/models/deepseek-v4-1-flash?pricing=blended-price#intelligence-breakdown

总体上是预期水平(artificialanalysis.ai刚刚调整了整个总分的权重和算法),但是发现了个有趣的点,值得玩味。
v4.1的错误回答中,幻觉率非常大,也就是非常不懂装懂。

幻觉率的公式是:错误答案 /(错误答案 + 部分答案 + 未尝试回答)也就是说,他有96%的错误情形都是硬装。而不是放弃或者只回答一部分。
这也就导致,v4.1的平均任务花费token数,会更高(PS:GPT6的平均token数确实很惊艳):

-
-



