跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. LLM讨论区
  4. 换了好几个模型,有些简单问题AI就是很难回答上来

换了好几个模型,有些简单问题AI就是很难回答上来

已定时 已固定 已锁定 已移动 LLM讨论区
21 帖子 12 发布者 370 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • A 离线
    A 离线
    applejuice
    技术大牛 劳动模范
    发表于 最后由 applejuice 编辑
    #4

    本地模型不能给他自己决定
    直接给他指令比如 跟他说昨天有一场球赛 谁对谁 查询结果 这样都可以

    如果只是说谁对谁 比较麻烦 会走很多弯路
    如果直接给他网站 就快很多

    1 条回复 最后回复
    1
    • M 离线
      M 离线
      mraksugar
      发表于 最后由 编辑
      #5

      一部分当然是因为本地模型能力问题。
      一部分也是因为提示词边界和规则没有建立导致的,如楼上的描述:
      你是一个亚洲nba资深球迷, 请在XXX.com,截止当前时间,上一场nba比赛的球队和比分? 诸如此类的具体描述

      1 条回复 最后回复
      2
      • 陈鸿陈 离线
        陈鸿陈 离线
        陈鸿
        发表于 最后由 编辑
        #6

        需要你自己补充问题的边界。

        1 条回复 最后回复
        1
        • kos orK 离线
          kos orK 离线
          kos or
          技术大牛 劳动模范
          发表于 最后由 kos or 编辑
          #7

          我試了一次 Qwen3.6-35B-A3B 提供給我的賽事資料是 2025/06/01,它有使用瀏覽器,但是最後還是做夢夢出來的。(真是糟糕,這MXFP4 版本是不是精確度很差)

          Tony WangT 1 条回复 最后回复
          0
          • kos orK kos or

            我試了一次 Qwen3.6-35B-A3B 提供給我的賽事資料是 2025/06/01,它有使用瀏覽器,但是最後還是做夢夢出來的。(真是糟糕,這MXFP4 版本是不是精確度很差)

            Tony WangT 离线
            Tony WangT 离线
            Tony Wang
            超级版主
            发表于 最后由 Tony Wang 编辑
            #8

            @kos-or

            所有的模型都有知识库的截止时间.

            你直接告诉hermes说你的内容过期了, 去找相关领域的cli, rss源等, 它会自己建立skill.

            本地的35A3的知识面和智力足够告诉Hermes应该怎么去搜索, 寻找了. 实在不成, 自己告诉hermes去哪里找准确的信息源, 最好是cli, rss的, 减少噪音. 然后它自己就能建立这个skill.

            kos orK 1 条回复 最后回复
            2
            • Tony WangT Tony Wang

              @kos-or

              所有的模型都有知识库的截止时间.

              你直接告诉hermes说你的内容过期了, 去找相关领域的cli, rss源等, 它会自己建立skill.

              本地的35A3的知识面和智力足够告诉Hermes应该怎么去搜索, 寻找了. 实在不成, 自己告诉hermes去哪里找准确的信息源, 最好是cli, rss的, 减少噪音. 然后它自己就能建立这个skill.

              kos orK 离线
              kos orK 离线
              kos or
              技术大牛 劳动模范
              发表于 最后由 编辑
              #9

              @Tony-Wang 我有設定Thinking-budget:2048 tokens 避免它一直卡在Thinking模式浪費太多時間。不過剛剛它一開始動用好幾個Browse工具上網查資料,就代表知道要上網找,我懷疑可能是被2048限制了,被迫馬上輸出答案才產生幻覺。我再調整成4096好了

              Tony WangT 1 条回复 最后回复
              0
              • williamlouisW 离线
                williamlouisW 离线
                williamlouis
                超级版主
                发表于 最后由 编辑
                #10

                提示词太笼统了。你肯定知道去哪看。把准确的地址给 Hermes 它是可以搞定的。

                个人主页:xlkj.org Telegram https://t.me/xlkjorg

                1 条回复 最后回复
                0
                • Tony WangT 离线
                  Tony WangT 离线
                  Tony Wang
                  超级版主
                  发表于 最后由 Tony Wang 编辑
                  #11

                  我刚才试了一下, 用35A3

                  • 第一个问题: 最近的一场NBA球赛, 是谁对谁, 比分多少? 你的知识库是过期的, 上网找相关的cli或者rss源, 给我个准确回答. 今天是2026年5月30日.
                  • 然后它去找rss搜索, 尝试了很久, 大概有2分钟吧, 我等不及
                  • 第二个问题: 还没找到吗? 找找github上有专门的nba cli
                  • 然后它有转了大概2分钟吧, 给我安装了一个 nba-api, 然后回答了

                  答案 : 2026年5月28日 (NBA 季后赛)

                   | | 球队 | 得分 |                                                                        
                   |---|------|------|                                                                                
                   | 🏠 主场 | San Antonio Spurs (马刺) | 118 |                                              
                   | ✈️ 客场 | Oklahoma City Thunder (雷霆) | 91 |
                  

                  我不是NBA球迷, 不过这个答案和我搜google是一样的.

                  如下是最终截图
                  Screenshot 2026-05-30 at 10.36.59 AM.png

                  terryT 1 条回复 最后回复
                  0
                  • kos orK kos or

                    @Tony-Wang 我有設定Thinking-budget:2048 tokens 避免它一直卡在Thinking模式浪費太多時間。不過剛剛它一開始動用好幾個Browse工具上網查資料,就代表知道要上網找,我懷疑可能是被2048限制了,被迫馬上輸出答案才產生幻覺。我再調整成4096好了

                    Tony WangT 离线
                    Tony WangT 离线
                    Tony Wang
                    超级版主
                    发表于 最后由 编辑
                    #12

                    @kos-or

                    提示词明确些, 另外如果它长时间卡住, 直接再次提问打断它就好.

                    kos orK 1 条回复 最后回复
                    0
                    • S 离线
                      S 离线
                      sospda
                      德高望重
                      发表于 最后由 编辑
                      #13

                      包括qwen3.6 27B 和 35B A3B 等模型在这类问题上表现都不好

                      人工查看当然快,现在其实就是测试模型的智能程度,

                      如果什么都讲清楚了,就没必要这个ai来做推理判断了。

                      说明还有改进空间。

                      1 条回复 最后回复
                      0
                      • Tony WangT Tony Wang

                        @kos-or

                        提示词明确些, 另外如果它长时间卡住, 直接再次提问打断它就好.

                        kos orK 离线
                        kos orK 离线
                        kos or
                        技术大牛 劳动模范
                        发表于 最后由 kos or 编辑
                        #14

                        @Tony-Wang 我昨天之後嘗試了第二次prompt 就成功 [ 幫我查詢NBA比賽最新的一場賽事的比賽結果] , eac6bd2c-2c83-4758-b095-4c5652aff80c-image.jpeg

                        我做了兩個動作, 1.換掉Qwen3.6-35B-A3B-MXFP4 改用 Qwen3.6-35B-A3B-UD-Q4_K_XL 兩個檔案大小都約22GB ; MXFP4 速度快 但精確度和穩定性比 UD-Q4_K_XL 版本差 2. Reasoning-Budget 改成4096 我推估假如Hermes 在網路上抓的資料過多, 超過2048tokens 時 會被系統阻斷思考 被迫直接輸出一個答案(有可能是舊的訓練資料) 3. 這資料時間慢了一兩天, 我之後再試試

                        1 条回复 最后回复
                        0
                        • Tony WangT 离线
                          Tony WangT 离线
                          Tony Wang
                          超级版主
                          发表于 最后由 编辑
                          #15

                          我还是觉得:
                          1, 不是模型智力的问题, 这个任务很简单, 它的思路没问题, 但是噪音比较多, 不容易找到准确的源
                          2, 和Reasoning 的长度没有太大关系, reasoning 即使阻断, 它还是会继续思考. 这个任务很简单, 它推理去搜索, 和理解搜索文本的结果没有问题.
                          3, 你最好告诉它今天的准确时间, 如果时间已经准确地告诉它了, 它给你这个结果, 那就是不对的, 你得继续让它找.
                          4, 它一旦找对了, 建立了skill, 以后就都能准确回答了.

                          1 条回复 最后回复
                          1
                          • S sospda

                            问它,查询上一场nba比赛的球队和比分,

                            这么一个简单问题,本地模型就是很难回答上来。

                            是因为网络限制吗?

                            J 离线
                            J 离线
                            johnnybegood
                            劳动模范 技术大牛
                            发表于 最后由 编辑
                            #16

                            @sospda 同样一辆车, 有的人跑赛道是10分钟, 有的人跑同样的赛道是5分钟。 有的人抱怨这个车真是垃圾,太难操控。 有的人精进自己的能力,去熟悉这辆车的操作,把它的性能发挥到最大。 智人跟猴子最大的不同,就是会使用工具,现代人跟智人的不同,就是现代人知道如何更好地去使用工具。

                            S 1 条回复 最后回复
                            0
                            • B 离线
                              B 离线
                              blackjack
                              发表于 最后由 编辑
                              #17

                              配置web search工具,申请注册填入taviliy key

                              B 1 条回复 最后回复
                              1
                              • J johnnybegood

                                @sospda 同样一辆车, 有的人跑赛道是10分钟, 有的人跑同样的赛道是5分钟。 有的人抱怨这个车真是垃圾,太难操控。 有的人精进自己的能力,去熟悉这辆车的操作,把它的性能发挥到最大。 智人跟猴子最大的不同,就是会使用工具,现代人跟智人的不同,就是现代人知道如何更好地去使用工具。

                                S 离线
                                S 离线
                                sospda
                                德高望重
                                发表于 最后由 编辑
                                #18

                                @johnnybegood 说:

                                @sospda 同样一辆车, 有的人跑赛道是10分钟, 有的人跑同样的赛道是5分钟。 有的人抱怨这个车真是垃圾,太难操控。 有的人精进自己的能力,去熟悉这辆车的操作,把它的性能发挥到最大。 智人跟猴子最大的不同,就是会使用工具,现代人跟智人的不同,就是现代人知道如何更好地去使用工具。

                                说那么多有啥用,你测试过没?要多久?如果没有试过,可以试试。

                                同一个问题, 不同的模型反应速度不同, 足以证明在该问题下不同的模型的智能程度。

                                也说明了,在该问题下,有些模型还有进步空间。

                                这有什么问题吗?

                                我发现了这一现象,提出来,不代表我就不去提升我的技能。

                                这是两码事。

                                1 条回复 最后回复
                                1
                                • kop wangK 离线
                                  kop wangK 离线
                                  kop wang
                                  超级版主
                                  发表于 最后由 编辑
                                  #19

                                  这个问题其实有几个变量要统一才好比较。
                                  1、你的本地Agent环境是否提供了功能对等的Web_Search机制。因为部分模型API是自带检索功能的(比如Anthropic的模型)
                                  2、本地模型采用的是否是精度比较高的版本,以及上下文是否开满。

                                  从benchmark的角度来看,qwen3.6-27B的满血版本,在Agent能力上,和deepseek-v4-flash没有本质差距。都属于二线上等水平。也是开源的一线水平。

                                  虚心交流,一起进步

                                  1 条回复 最后回复
                                  0
                                  • B blackjack

                                    配置web search工具,申请注册填入taviliy key

                                    B 离线
                                    B 离线
                                    blackjack
                                    发表于 最后由 编辑
                                    #20

                                    blackjack 说:

                                    配置web search工具,申请注册填入taviliy key

                                    nba-查分.png

                                    1 条回复 最后回复
                                    0
                                    • Tony WangT Tony Wang

                                      我刚才试了一下, 用35A3

                                      • 第一个问题: 最近的一场NBA球赛, 是谁对谁, 比分多少? 你的知识库是过期的, 上网找相关的cli或者rss源, 给我个准确回答. 今天是2026年5月30日.
                                      • 然后它去找rss搜索, 尝试了很久, 大概有2分钟吧, 我等不及
                                      • 第二个问题: 还没找到吗? 找找github上有专门的nba cli
                                      • 然后它有转了大概2分钟吧, 给我安装了一个 nba-api, 然后回答了

                                      答案 : 2026年5月28日 (NBA 季后赛)

                                       | | 球队 | 得分 |                                                                        
                                       |---|------|------|                                                                                
                                       | 🏠 主场 | San Antonio Spurs (马刺) | 118 |                                              
                                       | ✈️ 客场 | Oklahoma City Thunder (雷霆) | 91 |
                                      

                                      我不是NBA球迷, 不过这个答案和我搜google是一样的.

                                      如下是最终截图
                                      Screenshot 2026-05-30 at 10.36.59 AM.png

                                      terryT 在线
                                      terryT 在线
                                      terry
                                      超级版主
                                      发表于 最后由 编辑
                                      #21

                                      @Tony-Wang 1,你可以明确要求它用curl爬网络信息,espn,nba.com都可以,不需要安装任何东西。
                                      2,你可以安装google search key,这个每天100次免费,足够了。超出的价格也便宜的很,完全不用担心。

                                      油管:https://www.youtube.com/@抡锤者

                                      1 条回复 最后回复
                                      0

                                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                      有了你的建议,这篇帖子会更精彩哦 💗

                                      注册 登录
                                      回复
                                      • 在新帖中回复
                                      登录后回复
                                      • 从旧到新
                                      • 从新到旧
                                      • 最多赞同


                                      • 登录

                                      • 没有帐号? 注册

                                      • 登录或注册以进行搜索。
                                      • 第一个帖子
                                        最后一个帖子
                                      0
                                      • 首页
                                      • 版块
                                      • 最新
                                      • 标签
                                      • 热门
                                      • 用户
                                      • 群组