跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 【一个Agent两个大语言模型,一个学徒工,一个老师傅】

【一个Agent两个大语言模型,一个学徒工,一个老师傅】

已定时 已固定 已锁定 已移动 LLM讨论区
deepseekgptgemini
38 帖子 11 发布者 519 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Yu-Chen ChangY Yu-Chen Chang

    @george-suen 我不是使用老師傅和學徒工的分類,要借鑒中國人管理的智慧。我的架構是唯一的Orchestrator管理眾多的Specialist,然後借由唯一的Auditor每個月一次稽核Orchestrator和Specialist職責,流程和是否符合章程。Auditor使用業界最強的模型,例如:我使用GPT 5.6 Sol,Orchestrator可以使用非Auditor相同廠商的模型即可(例如:Gemini 3.7 flash,Deepseek V4 flash,GLM 5.3 flash)。至於其他的agents則可以任意選擇可以完成專業工作的模型即可

    許托比許 离线
    許托比許 离线
    許托比
    编写于 最后由 编辑
    #15

    @Yu-Chen-Chang 我跟你的用法比較類似 planner跟Auditor都用前沿模型 其他隨便 地端模型也可以

    1 条回复 最后回复
    0
    • George SuenG George Suen

      @許托比

      我遇到跟你相同的问题。agent用几次就忘了。我得手动提醒,他才会用起来,一会儿又忘。

      所以agent最好要专业化。去掉与它的分工无关的skill和tools。而且可以在每次他动作前提醒他。用本地大模型的时候可以事后把这些提醒从上下文里删除,反正没有跨api调用的kv cache。

      許托比許 离线
      許托比許 离线
      許托比
      编写于 最后由 許托比 编辑
      #16

      @George-Suen 其實經過測試 skill跟agent.md都不是好做法 刪減工作內容也不是 最後發現答案就是機械式閘門

      George SuenG 1 条回复 最后回复
      0
      • 許托比許 許托比

        @George-Suen 其實經過測試 skill跟agent.md都不是好做法 刪減工作內容也不是 最後發現答案就是機械式閘門

        George SuenG 离线
        George SuenG 离线
        George Suen
        编写于 最后由 编辑
        #17

        @許托比 你说的机械式闸门 是langgraph里那种 是非回答么? 哪个其实跟动作前提醒挺像的。

        許托比許 1 条回复 最后回复
        0
        • George SuenG George Suen

          @許托比 你说的机械式闸门 是langgraph里那种 是非回答么? 哪个其实跟动作前提醒挺像的。

          許托比許 离线
          許托比許 离线
          許托比
          编写于 最后由 编辑
          #18

          @George-Suen 说:

          @許托比 你说的机械式闸门 是langgraph里那种 是非回答么? 哪个其实跟动作前提醒挺像的。

          類似 基本上就是強制條件 沒通過條件不給commit ai就會照條件走了

          George SuenG 1 条回复 最后回复
          0
          • 許托比許 許托比

            @George-Suen 说:

            @許托比 你说的机械式闸门 是langgraph里那种 是非回答么? 哪个其实跟动作前提醒挺像的。

            類似 基本上就是強制條件 沒通過條件不給commit ai就會照條件走了

            George SuenG 离线
            George SuenG 离线
            George Suen
            编写于 最后由 编辑
            #19

            @許托比 那个就是在必要的时候问大模型,“你认为.....请简单的回答 是 或者 不是”。

            許托比許 1 条回复 最后回复
            0
            • George SuenG George Suen

              @許托比 那个就是在必要的时候问大模型,“你认为.....请简单的回答 是 或者 不是”。

              許托比許 离线
              許托比許 离线
              許托比
              编写于 最后由 编辑
              #20

              @George-Suen 你這樣不太行 必須先定義什麼是必要的時候 這樣閘門才有意義且可以自動 例如資安問題必須通過前沿模型檢核並附上證據 ai在通過閘門的時候沒幹這事就會被擋下來 然後乖乖去做 不需要按是或否

              George SuenG 1 条回复 最后回复
              0
              • 許托比許 許托比

                @George-Suen 你這樣不太行 必須先定義什麼是必要的時候 這樣閘門才有意義且可以自動 例如資安問題必須通過前沿模型檢核並附上證據 ai在通過閘門的時候沒幹這事就會被擋下來 然後乖乖去做 不需要按是或否

                George SuenG 离线
                George SuenG 离线
                George Suen
                编写于 最后由 编辑
                #21

                @許托比 我说的是 这种东西,它本来就在工作流图里。https://reference.langchain.com/python/langgraph/graph/state/StateGraph/add_conditional_edges

                langgraph
                你举得资安的例子,我完全没概念,从未接触过。

                Botio KuoB 1 条回复 最后回复
                0
                • George SuenG George Suen

                  @許托比 我说的是 这种东西,它本来就在工作流图里。https://reference.langchain.com/python/langgraph/graph/state/StateGraph/add_conditional_edges

                  langgraph
                  你举得资安的例子,我完全没概念,从未接触过。

                  Botio KuoB 离线
                  Botio KuoB 离线
                  Botio Kuo
                  德高望重
                  编写于 最后由 Botio Kuo 编辑
                  #22

                  @George-Suen 开源专案 archon 可能可以帮到你
                  你想要的比较像是一个 WORKFLOW

                  上下文不行 其实 是因为 pi 本身 compact 没有很强 你要试试看 pi-blackhole 插件

                  或是用omp.sh 可以解决上下文问题。。。

                  George SuenG 1 条回复 最后回复
                  0
                  • N 离线
                    N 离线
                    neo
                    德高望重 劳动模范
                    编写于 最后由 编辑
                    #23

                    我觉得本地模型最大的短板是知识面不够,大局观不够。
                    所以只让agent在项目设计和遇到难题时才去与线上模型讨论,这样应该能省些上下文,并且要限制轮数。
                    还有个方案就是线上模型的回答不要直接喂给agent,因为线上模型经常长篇大论,中间可以加一个小模型总结摘要以后再喂给agent。
                    这两个也可以综合起来用。

                    George SuenG 1 条回复 最后回复
                    0
                    • N neo

                      我觉得本地模型最大的短板是知识面不够,大局观不够。
                      所以只让agent在项目设计和遇到难题时才去与线上模型讨论,这样应该能省些上下文,并且要限制轮数。
                      还有个方案就是线上模型的回答不要直接喂给agent,因为线上模型经常长篇大论,中间可以加一个小模型总结摘要以后再喂给agent。
                      这两个也可以综合起来用。

                      George SuenG 离线
                      George SuenG 离线
                      George Suen
                      编写于 最后由 编辑
                      #24

                      @neo 甚合我意

                      1 条回复 最后回复
                      0
                      • George SuenG George Suen

                        @許托比

                        我遇到跟你相同的问题。agent用几次就忘了。我得手动提醒,他才会用起来,一会儿又忘。

                        所以agent最好要专业化。去掉与它的分工无关的skill和tools。而且可以在每次他动作前提醒他。用本地大模型的时候可以事后把这些提醒从上下文里删除,反正没有跨api调用的kv cache。

                        N 离线
                        N 离线
                        neo
                        德高望重 劳动模范
                        编写于 最后由 编辑
                        #25

                        @George-Suen 这样得情况AGNETS.md优化得好能提高成功率。

                        1 条回复 最后回复
                        0
                        • Botio KuoB Botio Kuo

                          @George-Suen 开源专案 archon 可能可以帮到你
                          你想要的比较像是一个 WORKFLOW

                          上下文不行 其实 是因为 pi 本身 compact 没有很强 你要试试看 pi-blackhole 插件

                          或是用omp.sh 可以解决上下文问题。。。

                          George SuenG 离线
                          George SuenG 离线
                          George Suen
                          编写于 最后由 编辑
                          #26

                          @Botio-Kuo 我想的是把信息分给多个agent维护,再有一个agent维护信息的目录。工作agent只维护当前问题的上下文。需要了解历史问题的时候去问他们。

                          Botio KuoB 1 条回复 最后回复
                          0
                          • 許托比許 离线
                            許托比許 离线
                            許托比
                            编写于 最后由 許托比 编辑
                            #27

                            哥兒們 玩ai永遠記住一個原則 非機械式的規範不可能限制ai ,prompt 下的再好,agent.md或skill寫得再強制 ,ai就是能夠繞過去 ,血的教訓。然後其實地端模型請教前沿模型的做法有點繞路,地端模型是拿來幹活,他不需要在過程中請教,他需要的是一開始有明確的規劃和事後有嚴格審查,所以你的老師傅的位置不應該在徒弟旁邊手把手,而是一開始說清楚叫他幹嘛然後他做完後嚴格的審核他

                            George SuenG 1 条回复 最后回复
                            0
                            • George SuenG George Suen

                              @Botio-Kuo 我想的是把信息分给多个agent维护,再有一个agent维护信息的目录。工作agent只维护当前问题的上下文。需要了解历史问题的时候去问他们。

                              Botio KuoB 离线
                              Botio KuoB 离线
                              Botio Kuo
                              德高望重
                              编写于 最后由 Botio Kuo 编辑
                              #28

                              @George-Suen 喔 。。。 那你要用 BUZZ 可以多个 AGENT 共用一段上下文。。。
                              cc5ba074-f65f-4402-9866-ce0059c21de6-image.jpeg

                              或是你就用 firstmate 等 派工SKILL 就行, 说实在的 很多方式都能达到目的
                              你也可以自己写一个 SKILL , 清楚表明要分派哪些内容给什么 subagent 並且 他只能看哪些内容 边界定义好

                              George SuenG 1 条回复 最后回复
                              0
                              • 許托比許 許托比

                                哥兒們 玩ai永遠記住一個原則 非機械式的規範不可能限制ai ,prompt 下的再好,agent.md或skill寫得再強制 ,ai就是能夠繞過去 ,血的教訓。然後其實地端模型請教前沿模型的做法有點繞路,地端模型是拿來幹活,他不需要在過程中請教,他需要的是一開始有明確的規劃和事後有嚴格審查,所以你的老師傅的位置不應該在徒弟旁邊手把手,而是一開始說清楚叫他幹嘛然後他做完後嚴格的審核他

                                George SuenG 离线
                                George SuenG 离线
                                George Suen
                                编写于 最后由 编辑
                                #29

                                @許托比

                                我信你说的话。

                                但是咱俩用Agent的场景完全不同。我做的东西全凭自己的兴趣,都带有探索性。我做的上一个项目,一开始也是用AI计划,最后发现那条路完全走不通,一直改一直改。好在最后结果我很满意。而且我也不太在乎AI犯错,反正都是我在尝试的事情。

                                1 条回复 最后回复
                                0
                                • Botio KuoB Botio Kuo

                                  @George-Suen 喔 。。。 那你要用 BUZZ 可以多个 AGENT 共用一段上下文。。。
                                  cc5ba074-f65f-4402-9866-ce0059c21de6-image.jpeg

                                  或是你就用 firstmate 等 派工SKILL 就行, 说实在的 很多方式都能达到目的
                                  你也可以自己写一个 SKILL , 清楚表明要分派哪些内容给什么 subagent 並且 他只能看哪些内容 边界定义好

                                  George SuenG 离线
                                  George SuenG 离线
                                  George Suen
                                  编写于 最后由 编辑
                                  #30

                                  @Botio-Kuo 用本地大模型上下文是超级稀缺的资源。

                                  Botio KuoB 1 条回复 最后回复
                                  0
                                  • williamlouisW 离线
                                    williamlouisW 离线
                                    williamlouis
                                    超级版主
                                    编写于 最后由 编辑
                                    #31

                                    Gemini 这个老师傅还能服役?
                                    它的老年痴呆有救了?

                                    个人主页:xlkj.org Telegram https://t.me/xlkjorg

                                    1 条回复 最后回复
                                    0
                                    • George SuenG George Suen

                                      @Yu-Chen-Chang 说:

                                      您是有钱人,我思考的都是,怎么用多个128K上下文的agent加上RAG什么的,实现1M甚至更多上下文的效果。

                                      Yu-Chen ChangY 离线
                                      Yu-Chen ChangY 离线
                                      Yu-Chen Chang
                                      编写于 最后由 编辑
                                      #32

                                      George-Suen 以前Deepseek是白菜價的時候,可以放任放任Deepseek自己不斷地試錯,畢竟白菜價要什麼自行車?但是當尖峰時刻Cache hit大漲價以後(尖峰五倍),這台自行車就必須是我要的山地車還是競速車。所以,如果可以利用比較規矩的模型來指揮Deepseek V4 flash做事,事實上可以省不少錢。

                                      1 条回复 最后回复
                                      0
                                      • George SuenG George Suen

                                        @Botio-Kuo 用本地大模型上下文是超级稀缺的资源。

                                        Botio KuoB 离线
                                        Botio KuoB 离线
                                        Botio Kuo
                                        德高望重
                                        编写于 最后由 编辑
                                        #33

                                        @George-Suen 说到底 都是口袋深度问题 。。。 不是 AGENT 的问题

                                        1 条回复 最后回复
                                        0
                                        • George SuenG George Suen

                                          诸位,用Agent都是只用一个大语言模型么?

                                          我一直用pi coding agent 配合Deepseek V4。但是Deepseek还是挺弱的。我就给他写了个Skill让他有任何困惑就通过OpenCLI去问ChatGPT或者Gemini。两个大语言模型一聊天,很多技术难点就突破了。

                                          现在Deepseek又涨价了。我更趋向于用pydantic-ai写一组新的Agent。本地的弱模型配合网页上的顾问大模型。除了电费,网费一分钱都不花。

                                          但是本地模型上下文太短了。一直想不明白怎么搞。

                                          我先端上一碟醋,大会儿帮我包盘饺子吧!

                                          张光璞张 离线
                                          张光璞张 离线
                                          张光璞
                                          劳动模范
                                          编写于 最后由 编辑
                                          #34

                                          @George-Suen 说:

                                          诸位,用Agent都是只用一个大语言模型么?

                                          我一直用pi coding agent 配合Deepseek V4。但是Deepseek还是挺弱的。我就给他写了个Skill让他有任何困惑就通过OpenCLI去问ChatGPT或者Gemini。两个大语言模型一聊天,很多技术难点就突破了。

                                          现在Deepseek又涨价了。我更趋向于用pydantic-ai写一组新的Agent。本地的弱模型配合网页上的顾问大模型。除了电费,网费一分钱都不花。

                                          但是本地模型上下文太短了。一直想不明白怎么搞。

                                          我先端上一碟醋,大会儿帮我包盘饺子吧!

                                          有一个双7900 XTX 跑两个模型的方案,就是这个思路 ,敏捷影应用小模型,重型思考就用另一张卡的模型。

                                          Yu-Chen ChangY 1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组