跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 换了好几个模型,有些简单问题AI就是很难回答上来

换了好几个模型,有些简单问题AI就是很难回答上来

已定时 已固定 已锁定 已移动 LLM讨论区
本地模型
21 帖子 12 发布者 712 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • M 离线
    M 离线
    mraksugar
    发表于 最后由 编辑
    #5

    一部分当然是因为本地模型能力问题。
    一部分也是因为提示词边界和规则没有建立导致的,如楼上的描述:
    你是一个亚洲nba资深球迷, 请在XXX.com,截止当前时间,上一场nba比赛的球队和比分? 诸如此类的具体描述

    1 条回复 最后回复
    2
    • 陈鸿陈 离线
      陈鸿陈 离线
      陈鸿
      发表于 最后由 编辑
      #6

      需要你自己补充问题的边界。

      1 条回复 最后回复
      1
      • kos orK 离线
        kos orK 离线
        kos or
        超凡大师
        发表于 最后由 kos or 编辑
        #7

        我試了一次 Qwen3.6-35B-A3B 提供給我的賽事資料是 2025/06/01,它有使用瀏覽器,但是最後還是做夢夢出來的。(真是糟糕,這MXFP4 版本是不是精確度很差)

        Tony WangT 1 条回复 最后回复
        0
        • kos orK kos or

          我試了一次 Qwen3.6-35B-A3B 提供給我的賽事資料是 2025/06/01,它有使用瀏覽器,但是最後還是做夢夢出來的。(真是糟糕,這MXFP4 版本是不是精確度很差)

          Tony WangT 在线
          Tony WangT 在线
          Tony Wang
          超级版主
          发表于 最后由 Tony Wang 编辑
          #8

          @kos-or

          所有的模型都有知识库的截止时间.

          你直接告诉hermes说你的内容过期了, 去找相关领域的cli, rss源等, 它会自己建立skill.

          本地的35A3的知识面和智力足够告诉Hermes应该怎么去搜索, 寻找了. 实在不成, 自己告诉hermes去哪里找准确的信息源, 最好是cli, rss的, 减少噪音. 然后它自己就能建立这个skill.

          kos orK 1 条回复 最后回复
          2
          • Tony WangT Tony Wang

            @kos-or

            所有的模型都有知识库的截止时间.

            你直接告诉hermes说你的内容过期了, 去找相关领域的cli, rss源等, 它会自己建立skill.

            本地的35A3的知识面和智力足够告诉Hermes应该怎么去搜索, 寻找了. 实在不成, 自己告诉hermes去哪里找准确的信息源, 最好是cli, rss的, 减少噪音. 然后它自己就能建立这个skill.

            kos orK 离线
            kos orK 离线
            kos or
            超凡大师
            发表于 最后由 编辑
            #9

            @Tony-Wang 我有設定Thinking-budget:2048 tokens 避免它一直卡在Thinking模式浪費太多時間。不過剛剛它一開始動用好幾個Browse工具上網查資料,就代表知道要上網找,我懷疑可能是被2048限制了,被迫馬上輸出答案才產生幻覺。我再調整成4096好了

            Tony WangT 1 条回复 最后回复
            0
            • williamlouisW 离线
              williamlouisW 离线
              williamlouis
              超级版主
              发表于 最后由 编辑
              #10

              提示词太笼统了。你肯定知道去哪看。把准确的地址给 Hermes 它是可以搞定的。

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              1 条回复 最后回复
              0
              • Tony WangT 在线
                Tony WangT 在线
                Tony Wang
                超级版主
                发表于 最后由 Tony Wang 编辑
                #11

                我刚才试了一下, 用35A3

                • 第一个问题: 最近的一场NBA球赛, 是谁对谁, 比分多少? 你的知识库是过期的, 上网找相关的cli或者rss源, 给我个准确回答. 今天是2026年5月30日.
                • 然后它去找rss搜索, 尝试了很久, 大概有2分钟吧, 我等不及
                • 第二个问题: 还没找到吗? 找找github上有专门的nba cli
                • 然后它有转了大概2分钟吧, 给我安装了一个 nba-api, 然后回答了

                答案 : 2026年5月28日 (NBA 季后赛)

                 | | 球队 | 得分 |                                                                        
                 |---|------|------|                                                                                
                 | 🏠 主场 | San Antonio Spurs (马刺) | 118 |                                              
                 | ✈️ 客场 | Oklahoma City Thunder (雷霆) | 91 |
                

                我不是NBA球迷, 不过这个答案和我搜google是一样的.

                如下是最终截图
                Screenshot 2026-05-30 at 10.36.59 AM.png

                terryT 1 条回复 最后回复
                0
                • kos orK kos or

                  @Tony-Wang 我有設定Thinking-budget:2048 tokens 避免它一直卡在Thinking模式浪費太多時間。不過剛剛它一開始動用好幾個Browse工具上網查資料,就代表知道要上網找,我懷疑可能是被2048限制了,被迫馬上輸出答案才產生幻覺。我再調整成4096好了

                  Tony WangT 在线
                  Tony WangT 在线
                  Tony Wang
                  超级版主
                  发表于 最后由 编辑
                  #12

                  @kos-or

                  提示词明确些, 另外如果它长时间卡住, 直接再次提问打断它就好.

                  kos orK 1 条回复 最后回复
                  0
                  • S 离线
                    S 离线
                    sospda
                    德高望重
                    发表于 最后由 编辑
                    #13

                    包括qwen3.6 27B 和 35B A3B 等模型在这类问题上表现都不好

                    人工查看当然快,现在其实就是测试模型的智能程度,

                    如果什么都讲清楚了,就没必要这个ai来做推理判断了。

                    说明还有改进空间。

                    1 条回复 最后回复
                    0
                    • Tony WangT Tony Wang

                      @kos-or

                      提示词明确些, 另外如果它长时间卡住, 直接再次提问打断它就好.

                      kos orK 离线
                      kos orK 离线
                      kos or
                      超凡大师
                      发表于 最后由 kos or 编辑
                      #14

                      @Tony-Wang 我昨天之後嘗試了第二次prompt 就成功 [ 幫我查詢NBA比賽最新的一場賽事的比賽結果] , eac6bd2c-2c83-4758-b095-4c5652aff80c-image.jpeg

                      我做了兩個動作, 1.換掉Qwen3.6-35B-A3B-MXFP4 改用 Qwen3.6-35B-A3B-UD-Q4_K_XL 兩個檔案大小都約22GB ; MXFP4 速度快 但精確度和穩定性比 UD-Q4_K_XL 版本差 2. Reasoning-Budget 改成4096 我推估假如Hermes 在網路上抓的資料過多, 超過2048tokens 時 會被系統阻斷思考 被迫直接輸出一個答案(有可能是舊的訓練資料) 3. 這資料時間慢了一兩天, 我之後再試試

                      1 条回复 最后回复
                      0
                      • Tony WangT 在线
                        Tony WangT 在线
                        Tony Wang
                        超级版主
                        发表于 最后由 编辑
                        #15

                        我还是觉得:
                        1, 不是模型智力的问题, 这个任务很简单, 它的思路没问题, 但是噪音比较多, 不容易找到准确的源
                        2, 和Reasoning 的长度没有太大关系, reasoning 即使阻断, 它还是会继续思考. 这个任务很简单, 它推理去搜索, 和理解搜索文本的结果没有问题.
                        3, 你最好告诉它今天的准确时间, 如果时间已经准确地告诉它了, 它给你这个结果, 那就是不对的, 你得继续让它找.
                        4, 它一旦找对了, 建立了skill, 以后就都能准确回答了.

                        1 条回复 最后回复
                        1
                        • S sospda

                          问它,查询上一场nba比赛的球队和比分,

                          这么一个简单问题,本地模型就是很难回答上来。

                          是因为网络限制吗?

                          J 在线
                          J 在线
                          johnnybegood
                          劳动模范 技术大牛
                          发表于 最后由 编辑
                          #16

                          @sospda 同样一辆车, 有的人跑赛道是10分钟, 有的人跑同样的赛道是5分钟。 有的人抱怨这个车真是垃圾,太难操控。 有的人精进自己的能力,去熟悉这辆车的操作,把它的性能发挥到最大。 智人跟猴子最大的不同,就是会使用工具,现代人跟智人的不同,就是现代人知道如何更好地去使用工具。

                          S 1 条回复 最后回复
                          0
                          • B 离线
                            B 离线
                            blackjack
                            发表于 最后由 编辑
                            #17

                            配置web search工具,申请注册填入taviliy key

                            B 1 条回复 最后回复
                            1
                            • J johnnybegood

                              @sospda 同样一辆车, 有的人跑赛道是10分钟, 有的人跑同样的赛道是5分钟。 有的人抱怨这个车真是垃圾,太难操控。 有的人精进自己的能力,去熟悉这辆车的操作,把它的性能发挥到最大。 智人跟猴子最大的不同,就是会使用工具,现代人跟智人的不同,就是现代人知道如何更好地去使用工具。

                              S 离线
                              S 离线
                              sospda
                              德高望重
                              发表于 最后由 编辑
                              #18

                              @johnnybegood 说:

                              @sospda 同样一辆车, 有的人跑赛道是10分钟, 有的人跑同样的赛道是5分钟。 有的人抱怨这个车真是垃圾,太难操控。 有的人精进自己的能力,去熟悉这辆车的操作,把它的性能发挥到最大。 智人跟猴子最大的不同,就是会使用工具,现代人跟智人的不同,就是现代人知道如何更好地去使用工具。

                              说那么多有啥用,你测试过没?要多久?如果没有试过,可以试试。

                              同一个问题, 不同的模型反应速度不同, 足以证明在该问题下不同的模型的智能程度。

                              也说明了,在该问题下,有些模型还有进步空间。

                              这有什么问题吗?

                              我发现了这一现象,提出来,不代表我就不去提升我的技能。

                              这是两码事。

                              1 条回复 最后回复
                              1
                              • kop wangK 离线
                                kop wangK 离线
                                kop wang
                                超级版主
                                发表于 最后由 编辑
                                #19

                                这个问题其实有几个变量要统一才好比较。
                                1、你的本地Agent环境是否提供了功能对等的Web_Search机制。因为部分模型API是自带检索功能的(比如Anthropic的模型)
                                2、本地模型采用的是否是精度比较高的版本,以及上下文是否开满。

                                从benchmark的角度来看,qwen3.6-27B的满血版本,在Agent能力上,和deepseek-v4-flash没有本质差距。都属于二线上等水平。也是开源的一线水平。

                                虚心交流,一起进步

                                1 条回复 最后回复
                                0
                                • B blackjack

                                  配置web search工具,申请注册填入taviliy key

                                  B 离线
                                  B 离线
                                  blackjack
                                  发表于 最后由 编辑
                                  #20

                                  blackjack 说:

                                  配置web search工具,申请注册填入taviliy key

                                  nba-查分.png

                                  1 条回复 最后回复
                                  0
                                  • Tony WangT Tony Wang

                                    我刚才试了一下, 用35A3

                                    • 第一个问题: 最近的一场NBA球赛, 是谁对谁, 比分多少? 你的知识库是过期的, 上网找相关的cli或者rss源, 给我个准确回答. 今天是2026年5月30日.
                                    • 然后它去找rss搜索, 尝试了很久, 大概有2分钟吧, 我等不及
                                    • 第二个问题: 还没找到吗? 找找github上有专门的nba cli
                                    • 然后它有转了大概2分钟吧, 给我安装了一个 nba-api, 然后回答了

                                    答案 : 2026年5月28日 (NBA 季后赛)

                                     | | 球队 | 得分 |                                                                        
                                     |---|------|------|                                                                                
                                     | 🏠 主场 | San Antonio Spurs (马刺) | 118 |                                              
                                     | ✈️ 客场 | Oklahoma City Thunder (雷霆) | 91 |
                                    

                                    我不是NBA球迷, 不过这个答案和我搜google是一样的.

                                    如下是最终截图
                                    Screenshot 2026-05-30 at 10.36.59 AM.png

                                    terryT 在线
                                    terryT 在线
                                    terry
                                    超级版主
                                    发表于 最后由 编辑
                                    #21

                                    @Tony-Wang 1,你可以明确要求它用curl爬网络信息,espn,nba.com都可以,不需要安装任何东西。
                                    2,你可以安装google search key,这个每天100次免费,足够了。超出的价格也便宜的很,完全不用担心。

                                    油管:https://www.youtube.com/@抡锤者

                                    1 条回复 最后回复
                                    0

                                    你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                    厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                    有了你的建议,这篇帖子会更精彩哦 💗

                                    注册 登录
                                    回复
                                    • 在新帖中回复
                                    登录后回复
                                    • 从旧到新
                                    • 从新到旧
                                    • 最多赞同


                                    • 登录

                                    • 登录或注册以进行搜索。
                                    • 第一个帖子
                                      最后一个帖子
                                    0
                                    • 版块
                                    • 最新
                                    • 标签
                                    • 热门
                                    • 用户
                                    • 群组