今天玩了玩所谓的 JEV
-
据说Jev要上网API玩， 于是玩了两个本地的， 一个Laya， 一个 NanoJev， 简单看了一下，贪吃蛇、俄罗斯方块、客服决策树什么的， 觉得还是有点意思， 因为它可以 fallback， 如果它自己信心不足， 就交给本地大模型就行了。 所以结论就是它不是更快更好， 它只是更快、更小、更便宜而已， 准确率不如大模型， 但是它在速度上面的收益太大了， 而且很熟练， 举一个不太准确的例子， 就好像你搞工厂流水线的， 你就需要人多、便宜，但是不需要都是硕士博士， 只要是训练好的熟练工人就行， Jev类的模型就非常适合这个，“无脑”（因为是非递归的）进行大量工作， 非常适合。 速度快的让人瞠目结舌， 准确率只要能到 60-70%， 剩下的回退给大模型就行， 用起来还是相当丝滑的。
其实很早我就想过， 大模型总是用人类语言串行思考， 这不是它应该有的能力和速度， 现在终于朝正确的方向打开了。模型用起来就应该是分层的， Jev --> 2B小模型 ---> 27B ---> 在线大模型 这么来用， 听着复杂， 但其实可能更有效率。
-
-
-
jev这个模式，我没想明白的就是他官网吹嘘的0幻觉到底来自于什么。如果说只要给个概率，错就不算错的话，那这不就是文字游戏……
jev确实非常适合用于门控，但是里外里算下来他的成本优势和判断力之间到底有没有真正的“甜点”，我认为还是有一定的探讨空间。毕竟LLM目前也非常的便宜。
换句话说，对于jev这个模式一切的愿景都是基于“jev的判断一定是对的”而言的，但本质上我认为没有这么理想。
-
說實在的，我這種把AI當助理在使用的人，無法理解Jev可以做什麼？
就算是掛機打網遊，以前的狀態機外掛就夠實用了，更別提Jev沒有視覺和語言功能，難道現在使用AI刷寶是顯學？ -
