跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. LLM讨论区
  4. RAG LoRA和大模型的关系以及应用场景

RAG LoRA和大模型的关系以及应用场景

已定时 已固定 已锁定 已移动 LLM讨论区
20 帖子 9 发布者 496 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT 在线
    terryT 在线
    terry
    超级版主
    发表于 最后由 编辑
    #11

    我频道的观众年龄从18-25到55-65都有,中年人最多,年轻人其实也不少。我说实话,老年人折腾下AI挺好的,防止老年痴呆。以后我们活到100岁应该不是难事,当然了,遇到意外噶了也正常。医疗在进步,60岁之后干嘛呢?还有几十年的时间呢。各种辅助工具也会越来越多,不如多思考下,AI就是最好的玩具。

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    1
    • terryT terry 于 将此主题从 Mark专区 移至此处
    • terryT terry 于 将此主题从 LLM讨论区 移至此处
    • H QianH 离线
      H QianH 离线
      H Qian
      发表于 最后由 编辑
      #12

      NotebookLM就是典型的RAG应用范例,LoRA才是小企业们的战场,可以各显神通搞出各自有特色的垂直行业模型。本人就尝试做这方面研究,包括模型生成后的安全防护话题,有兴趣可以一起探讨。

      ? 1 条回复 最后回复
      2
      • H QianH H Qian

        NotebookLM就是典型的RAG应用范例,LoRA才是小企业们的战场,可以各显神通搞出各自有特色的垂直行业模型。本人就尝试做这方面研究,包括模型生成后的安全防护话题,有兴趣可以一起探讨。

        ? 离线
        ? 离线
        [[global:former-user]]
        发表于 最后由 编辑
        #13

        @H-Qian 這我有興趣, 最近我也在弄anythingllm 希望能類似notebookllm,目前不知道是llm模型還是embedding 的模型不夠好,總覺得回答得很保守......

        1 条回复 最后回复
        0
        • K 离线
          K 离线
          kenshin
          发表于 最后由 编辑
          #14

          做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。

          terryT Tony WangT 5 3 条回复 最后回复
          2
          • K kenshin

            做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。

            terryT 在线
            terryT 在线
            terry
            超级版主
            发表于 最后由 编辑
            #15

            @kenshin 挺有意义的实践参考,这不仅需要RAG技术范式的进步,也需要模型在训练时就要提供类似接口。

            油管:https://www.youtube.com/@抡锤者

            1 条回复 最后回复
            0
            • K kenshin

              做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。

              Tony WangT 离线
              Tony WangT 离线
              Tony Wang
              超级版主
              发表于 最后由 编辑
              #16

              @kenshin

              会不会是中医的判断本身就很模糊? 缺乏明确的指标判断? 知识库中的内容很可能就存在了冲突, 模糊, 交叉等现象.

              K terryT 2 条回复 最后回复
              0
              • K kenshin

                做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。

                5 离线
                5 离线
                566656661
                超凡大师
                发表于 最后由 566656661 编辑
                #17

                @kenshin

                我是屬於公司内部文件 (~500頁精細操作) + 助手 + 提供其他應用程式API作爲Agentic Control Tool Call

                只能説連POC都舉步維艱, 最後還被老闆刹停了...

                儘管有API可以呼叫但是Agentic Workflow和General Chat的邊界選用這個真的很讓人頭痛

                Tool Call至少可以用Structured Output來限制但是模型選擇延續Workflow跟Chat這個基本無解

                1 条回复 最后回复
                0
                • Tony WangT Tony Wang

                  @kenshin

                  会不会是中医的判断本身就很模糊? 缺乏明确的指标判断? 知识库中的内容很可能就存在了冲突, 模糊, 交叉等现象.

                  K 离线
                  K 离线
                  kenshin
                  发表于 最后由 编辑
                  #18

                  @Tony-Wang 某系体系是比较规范的。问诊单也可以机械到细化。大方向不应该错的。六经辨证,总能分出哪一经或多经合病并病。表里同病。水火气血,单一病还是两者三者四个都出现,还出现权重比例不一样。证据链越长,指向月明确。但是通用LLM还是只是通用。个人使用,没硬件没能力微调。现在使用中只作参考。大多数辅助诊断和选方都不采用。原因是病史采集语言不一定是向量库中一致。还有交叉重组,意义不一定和资料中一样。所以任重而道远。只能作为小学生做题目参考。换句话说:题目还没读懂,就写答案。九成九是错的。

                  1 条回复 最后回复
                  0
                  • Tony WangT Tony Wang

                    @kenshin

                    会不会是中医的判断本身就很模糊? 缺乏明确的指标判断? 知识库中的内容很可能就存在了冲突, 模糊, 交叉等现象.

                    terryT 在线
                    terryT 在线
                    terry
                    超级版主
                    发表于 最后由 编辑
                    #19

                    @Tony-Wang 😂,中医确实比较玄学,这事还得靠老师傅望闻问切吗,别说AI,就是你专门学中医的,也搞不准。

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    0
                    • Jake KwohJ 离线
                      Jake KwohJ 离线
                      Jake Kwoh
                      编写于 最后由 编辑
                      #20

                      可不可以说,即使是用伤寒体系这种公式化的辩证体系,也会因为一个‘证‘的多可能性,会导致多个‘证‘的更多可能性指数级别地让路由节点爆炸,最后是机器采用自认为的高confidence的答案认为一级棒,实际上有经验的从业者一眼尴尬,因为即使比对‘经验‘信息后,也是变成了一次引入更多噪音的处理-毕竟经验本身在中医体系里没有量化的golden cases?可能这个方向整体很危险,因为面对现代化生活的各种乱七八糟,和百年前都已经十万八千里了,更不要说一两千年前,现代化的各种奇奇怪怪的病,早超出了古人‘病‘的范畴了,这导致回归调教又是一个不可知的问题。

                      1 条回复 最后回复
                      0
                      • ,terryT terry 将此主题从 Mark专区 移至此处

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 首页
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组