跳转至内容
  • 本地龙虾最低要求

    AI硬件 本地模型 rag
    7
    0 赞同
    7 帖子
    85 浏览
    williamlouisW
    这种用途 非新卡都可排除了。建议 AMD R 9700 32G。24G显存的话得看你个人的编程水平了。我已经服软。花钱了事上的9700
  • 1 赞同
    5 帖子
    337 浏览
    williamlouisW
    默默的留个小脚印。能看懂。看懂是完全超出我的知识面。
  • 思路讨论 专业方向RAG与工作流

    已移动 LLM讨论区 本地模型 rag
    15
    0 赞同
    15 帖子
    296 浏览
    U
    @kop-wang 法庭判决的决定性因素确实大量存在于文本之外:法官自由裁量习惯、本地司法惯例、庭审表现、程序博弈.这些与法条之间几乎没有统计学关联,RAG根本够不着。RAG正好是在解决”LLM上下文窗口有限”的工程问题,不是在解决"世界模型不完整”的认知问题。
  • 基于RAG-WIKI 理论,我做了一套本地知识库,用于客服机器人.

    已移动 Mark专区 rag
    15
    2 赞同
    15 帖子
    407 浏览
    M
    哈哈, 英雄所见略同, 以后普通程序员,就是很廉价. 就是一般打字员的工资, 也就8k. 但是顶级资深程序员,就很贵, 核心就是判断力和经验.
  • 0 赞同
    12 帖子
    394 浏览
    Tony WangT
    @566656661 假設你輸入"Find me the content related to ABC12383" (幫我找一下有關ABC12383的内容), 首先你可以給基本模型把這個請求標準化(Normalize), 模型正常情況下會幫你把有關内容拆解成字串 (三字串trigram或者兩字串bigram), 然後幫你在分塊好的内容選出來, 假設你的文件中包含有關於ABC123, ABC23, ABC83, ABC128, ABC238, ABC12383(這個才是想要的) 这个例子中, 就像你说的, 由于ABC123, ABC23, ABC83, ABC128, ABC238, ABC12383 的向量相似度都很高, 所以真正的 ABC12383 的返回优先级并不高. 但在关键词搜索中, ABC12383的优先级往往就很高, 所以召回的chunk中, 会优先返回. 对于准确的内容, 比如产品型号、错误码、文件编号等等,单纯依赖 Embedding 确实容易召回错误的 Chunk, 所以可以结合 BM25 等关键词搜索,然后再交给 Rerank 做最终排序。
  • 分享一下我折腾RAG的不成功经验

    已移动 LLM讨论区 本地模型 rag
    9
    3 赞同
    9 帖子
    430 浏览
    bingqin wangB
    我正好有个开源项目适合大佬的需求 你可以试试 我做了封装 直接安装就能用 知识入网里面有协议 直接用agent自己读协议工作比较省力https://github.com/superalp1985/fame-knowledge-agent-gateway
  • RAG LoRA和大模型的关系以及应用场景

    已移动 LLM讨论区 本地模型 rag
    20
    2 赞同
    20 帖子
    635 浏览
    Jake KwohJ
    可不可以说,即使是用伤寒体系这种公式化的辩证体系,也会因为一个‘证‘的多可能性,会导致多个‘证‘的更多可能性指数级别地让路由节点爆炸,最后是机器采用自认为的高confidence的答案认为一级棒,实际上有经验的从业者一眼尴尬,因为即使比对‘经验‘信息后,也是变成了一次引入更多噪音的处理-毕竟经验本身在中医体系里没有量化的golden cases?可能这个方向整体很危险,因为面对现代化生活的各种乱七八糟,和百年前都已经十万八千里了,更不要说一两千年前,现代化的各种奇奇怪怪的病,早超出了古人‘病‘的范畴了,这导致回归调教又是一个不可知的问题。