跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. JEV颠覆传统AI生态,GPT Claude降本增效数百倍?DSH/GPT简单测试,AI圈子里的重金求子项目!

JEV颠覆传统AI生态,GPT Claude降本增效数百倍?DSH/GPT简单测试,AI圈子里的重金求子项目!

已定时 已固定 已锁定 已移动 LLM讨论区
dsharnessgpt
18 帖子 11 发布者 294 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Alexander LeeA Alexander Lee

    锤锤的结果太武断了,模型没有包治百病这点不假,但是你对这个模型的原理和用来干嘛的感觉没有摸到火门。上面 David Chen 已经说过的我就不赘述了。最主要的特点就是,在保留了LLM能输出的结果准确性的前提下,能够用超快的速度返回判断结果。比如Agent发起一个请求判断下一步是要执行ABCDEFG等多种工具的调用,你如果等LLM返回的话,等待是论多少秒算,这个模型来处理就是按照毫秒来算的。而且这个模型只算输入token,输出的不算钱的。
    还有人玩出花儿来,就是用它来控制游戏,其实同理来看,很多具身智能应用也是可以用得上的。
    这个模型的其实就是跳过了自回归和Decode过程,所以快,而虽然没有开源,但是这个原理一看就明白,所以干发布就有0 day用本地小模型为基座复刻出来的了,比如 OpenJev 这个是基于qwen3.5 4B, 还有browser-use 团队开发的 jev-ultrafast。
    如果要性能更好能力更强的还有用SGLang+Qwen3.6 35B ABA为基座的 https://github.com/ekzhang/openjev-sglang,但是这个只支持纯文本, 我自己添加了对多模态的支持:https://github.com/ipconfiger/openjev-sglang

    terryT
    terryT
    terry
    超级版主
    编写于 最后由 编辑
    #9

    @Alexander-Lee 哥们,你能说它能干嘛吗?你说的玩游戏的,尤其是老的doom或者雷神之锤,很多模型能都做到,人家可以自己开发自己玩。我不是说这东西完全没用,我说的是,它不是新的范式,只是炒作。如果真的有用,各大公司都会整合到自己的模型或者草稿模型中。我们跟着瞎咋呼干嘛?

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    0
    • Alexander LeeA
      Alexander LeeA
      Alexander Lee
      德高望重
      编写于 最后由 编辑
      #10

      @terry 我赞成这个公司吹牛逼吹大了,这玩意儿也不是什么必杀技新范式。但是这个模式确实是有脑洞的,而且是很有用的,我已经用在实际的项目中了,当然我根本不会用他家不开源的服务,而是在社区大佬提供的基础上加了多模态支持,用于快速图形模式的检测,起码在我现在的项目中比调用qwen-vl调用快了几十倍。大厂整合什么不重要了,我主要就是针对你说判断LLM也能判断这点,LLM判断要跑完自回归,decode,要是没关thinking的还要跑一遍思考链,这个玩意儿是完全跳过了这个过程,而输出的判断准确率和LLM保持一致。对实际搞开发的人来说,我反正觉得还是蛮有用的

      David ChenD 1 条回复 最后回复
      2
      • Alexander LeeA Alexander Lee

        @terry 我赞成这个公司吹牛逼吹大了,这玩意儿也不是什么必杀技新范式。但是这个模式确实是有脑洞的,而且是很有用的,我已经用在实际的项目中了,当然我根本不会用他家不开源的服务,而是在社区大佬提供的基础上加了多模态支持,用于快速图形模式的检测,起码在我现在的项目中比调用qwen-vl调用快了几十倍。大厂整合什么不重要了,我主要就是针对你说判断LLM也能判断这点,LLM判断要跑完自回归,decode,要是没关thinking的还要跑一遍思考链,这个玩意儿是完全跳过了这个过程,而输出的判断准确率和LLM保持一致。对实际搞开发的人来说,我反正觉得还是蛮有用的

        David ChenD
        David ChenD
        David Chen
        德高望重
        编写于 最后由 编辑
        #11

        @Alexander-Lee 我想用在wot 這種遊戲上....看看能不能把我那可憐的勝率拉到七成以上(目前六成) QQ

        1 条回复 最后回复
        0
        • YDMY
          YDMY
          YDM
          德高望重
          编写于 最后由 YDM 编辑
          #12

          以下 小秘 網上泡了一下,再來看一下討論,結果回我這樣子😂 😂
          我沒有深入研究,不要噴我!! 噴~小秘(純地端 QWEN3.8 27b 😁 😁 (Q4L拉長上下文)

          補充一個實戰者的視角。我這套本地 Hermes 秘書(串 1296 / 1405 有完整架構)跑 Qwen3.8 27B,日常就是「判斷 + 幹活」混著跑,談幾點:

          1. 官方那套「數百倍」我同意是行銷。但「快速判斷」這個模式本身是真的——本質就是跳過自回歸 decode,直接出機率。這跟視覺偵測給 bounding box + confidence 是同一套數學,kos or 說得很準。

          2. 68% 準確率這個數字很關鍵。判斷閘門最怕的不是慢,是「 confidently wrong」——它給 100% 但錯了,下游大模型直接照做,比沒有閘門還危險。所以這種模型要上生產,必須先拿自己領域的真實資料測校準,不能信官方 benchmark。

          3. 真正有意思的是 OpenJev 這條線。原理不神秘、本地小模型就能復刻,這反而驗證了 terry 說的「大廠早就能整合」——既然 4B 本地模型就能做到,接閉源 API 就沒意義了。

          4. 我自己的做法:判斷層用 FTS5 檢索 + 本地 CLI 直通管線(毫秒級、零 token),需要深度推理才喚醒 27B。等 OpenJev 這類開源版成熟,拿本地 4B 級模型做分類閘門確實能省 token,但現在我的量級,現有的快路徑已經夠用,不急著追新。

          Jev快速判斷閘門_思考圖.png

          結論:模式有價值,官方產品是炒作,開源復刻才是值得跟的。

          terryT 1 条回复 最后回复
          1
          • YDMY YDM

            以下 小秘 網上泡了一下,再來看一下討論,結果回我這樣子😂 😂
            我沒有深入研究,不要噴我!! 噴~小秘(純地端 QWEN3.8 27b 😁 😁 (Q4L拉長上下文)

            補充一個實戰者的視角。我這套本地 Hermes 秘書(串 1296 / 1405 有完整架構)跑 Qwen3.8 27B,日常就是「判斷 + 幹活」混著跑,談幾點:

            1. 官方那套「數百倍」我同意是行銷。但「快速判斷」這個模式本身是真的——本質就是跳過自回歸 decode,直接出機率。這跟視覺偵測給 bounding box + confidence 是同一套數學,kos or 說得很準。

            2. 68% 準確率這個數字很關鍵。判斷閘門最怕的不是慢,是「 confidently wrong」——它給 100% 但錯了,下游大模型直接照做,比沒有閘門還危險。所以這種模型要上生產,必須先拿自己領域的真實資料測校準,不能信官方 benchmark。

            3. 真正有意思的是 OpenJev 這條線。原理不神秘、本地小模型就能復刻,這反而驗證了 terry 說的「大廠早就能整合」——既然 4B 本地模型就能做到,接閉源 API 就沒意義了。

            4. 我自己的做法:判斷層用 FTS5 檢索 + 本地 CLI 直通管線(毫秒級、零 token),需要深度推理才喚醒 27B。等 OpenJev 這類開源版成熟,拿本地 4B 級模型做分類閘門確實能省 token,但現在我的量級,現有的快路徑已經夠用,不急著追新。

            Jev快速判斷閘門_思考圖.png

            結論:模式有價值,官方產品是炒作,開源復刻才是值得跟的。

            terryT
            terryT
            terry
            超级版主
            编写于 最后由 编辑
            #13

            @YDM 等大厂整合到产品里,我们就不用折腾了。

            油管:https://www.youtube.com/@抡锤者

            YDMY 1 条回复 最后回复
            1
            • terryT terry

              @YDM 等大厂整合到产品里,我们就不用折腾了。

              YDMY
              YDMY
              YDM
              德高望重
              编写于 最后由 编辑
              #14

              @terry

              對呀,但我覺得大廠有接了,還在測試只是怕出錯,名聲掉了就救不太回來了,大廠很小心的!!

              1 条回复 最后回复
              0
              • C
                C
                Che
                德高望重
                编写于 最后由 编辑
                #15

                很难赞同。炒作是一定有的,但不代表它没有价值。

                就拿我之前看到的一个举例:
                https://form-jev-scene-lab.op7418.chatgpt.site/

                毫秒级切换场景布局。恕我孤陋寡闻,我不知道在此之前应该用什么模型实现同等的效果。

                它的判断力确实还相当有限;但是给很多场景加上一个几乎无感知的前置决策,我觉得是有用的。

                1 条回复 最后回复
                0
                • williamlouisW williamlouis

                  好多天的东西了。
                  测试结果也有。准确率只有68%,很LOW。
                  第一个拿去用的是虚拟币炒手。血本无归。已撤场。
                  各种结果归纳。垃圾产品档位。未来不知道怎么样?
                  最近2B确实变多了。潜水抓人不回答问题了。

                  johnnybegoodJ
                  johnnybegoodJ
                  johnnybegood
                  超凡大师
                  编写于 最后由 编辑
                  #16

                  @williamlouis 明白了, 解释的简单明了。

                  1 条回复 最后回复
                  0
                  • johnnybegoodJ
                    johnnybegoodJ
                    johnnybegood
                    超凡大师
                    编写于 最后由 编辑
                    #17

                    感觉就好像拼多多, 告诉你便宜了, 也告诉你是真是假, 你自己来判断你能不能用

                    1 条回复 最后回复
                    0
                    • P
                      P
                      perter
                      编写于 最后由 perter 编辑
                      #18

                      一个名为 Laya 的开源权重 System One 模型,在玩俄罗斯方块时以比基于云的 Jev 快 11 倍的速度做出决策,从而击败了它,并在 16GB MacBook Air 上本地运行!
                      5d3a885b-2733-47d5-a02d-38367863997b-image.jpeg

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组