-
-
NotebookLM就是典型的RAG应用范例,LoRA才是小企业们的战场,可以各显神通搞出各自有特色的垂直行业模型。本人就尝试做这方面研究,包括模型生成后的安全防护话题,有兴趣可以一起探讨。
-
-
做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。
-
做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。
-
做了中医某体系的rag系统,资料切片,1400+文件耗时8小时+。还要+rerank。多维度交叉。结果:不同模型辅助诊断出来的方子不一样。重新诊断也不一定一样。现在开始新的概念:rag+agent,但是无论怎么折腾。还是不如人脑。但是如果用来总结概述。对比。这些意义还是有的。原因很简单,喂的料做出了的rag系统和使用者的语言语义不一致。还有大模型要出唯一答案,最好机械一点。temp=0, Prompt 里强制约束。现在来说,rag系统只能用来学习。不能结合llm用来搞生产。 最起码严谨的工作领域还不能作为生产力。
-
-
-
-
T terry 于 将此主题从 Mark专区 移至此处
-
-
-
skills节点对几乎确定性rag再加lora框定,缩小选题范围,指望模型勤劳善良勇敢基本会得到占位符,生产rag和原子skills各自对应的狭窄管道,相当于给答案加了个或,甚至直接用rag生成硬塞lora,就是要强迫只许他做他不喜欢的事,粗暴死他,这么干对吗,我锤哥
-
-
-
x上有很多关于RAG的质疑声音,模型的不同,检索出来的效果也不同,所以很多人开始质疑了,随着上下文越来越大,很多时候,把材料全放到上下文,比rag的向量化检索更精准。感觉说的有道理,但是谁知道呢,毕竟模型月来月聪明(有利于rag),上下文越来越大(直接把文档塞到上下文)。
,中医确实比较玄学,这事还得靠老师傅望闻问切吗,别说AI,就是你专门学中医的,也搞不准。
本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!
