抡锤者

@kop-wang 法庭判决的决定性因素确实大量存在于文本之外:法官自由裁量习惯、本地司法惯例、庭审表现、程序博弈.这些与法条之间几乎没有统计学关联，RAG根本够不着。RAG正好是在解决”LLM上下文窗口有限”的工程问题，不是在解决"世界模型不完整”的认知问题。

@566656661 人也会有幻觉，大脑天生就会欺骗，多一个求证的环节，就会排除幻觉。

@kop-wang 在不考虑案外因素的前提下，给决策做辅助建议，基层的乃至很高层级的机关执法人员是很缺乏法律常识的，所以我觉得rag可以让在一个较小空间里的问题给出相对合理的建议，以便下决策。

@kop-wang 说:

坚守关键词、正则匹配。
所以目前的agent都是在coding领域有很好的表现，但是在有自由裁量权的领域，尤其是法律，表现是差强人意的，某律师使用豆包打官司导致职业资格证被吊销。
我的日常工作会有大量的法律条文应用，关键词和正则会有反效果，因为真实世界是考虑实际的适用性和合理性，这个是目前的llm或者agent不尽如人意的地方。
所以我在考虑如何架构能够让llm不产生幻觉，从而辅助我进行决策。

传统RAG容易产生幻觉，同样一个问题，匹配的RAG结果可能不相同，不可100%复现结果。
Google提出的OKF格式可能是一个比较好的解决方式，顶部 YAML 标签强锁文件类型（如法律、案例），防止大模型瞎联想；正文用 Markdown 标题（PageIndex 骨架）与向量库（传统 RAG 血肉）网状互联。
在实际的任务，比如依据法律法规以及历史判例，做出工作流，让多agent参与，一个负责调度和分配任务，多个负责对应内容，一个agent负责审核，最终输出审查报告和改进意见。
这个思路的可行性如何？