跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 我普通人的算力需求 病态

我普通人的算力需求 病态

已定时 已固定 已锁定 已移动 热议 随便聊聊
rtx3090本地模型
47 帖子 15 发布者 370 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • heheimbackH heheimback

    @applejuice 你自己怎么写的RAG,我用的是linux系统,就让llm用grep查询就可以了,claude code就是这么做的,我就是设计了一下怎么组织知识

    A
    A
    applejuice
    技术大牛 劳动模范
    编写于 最后由 applejuice 编辑
    #38

    @heheimback 这样也是可以
    可是有些逻辑 需要有数据库

    也不一定适合其他人
    这个纯属给我自己用

    agent 用的是langgraph 写
    老实说我一行都不会看

    heheimbackH 1 条回复 最后回复
    0
    • A applejuice

      @heheimback 这样也是可以
      可是有些逻辑 需要有数据库

      也不一定适合其他人
      这个纯属给我自己用

      agent 用的是langgraph 写
      老实说我一行都不会看

      heheimbackH
      heheimbackH
      heheimback
      编写于 最后由 编辑
      #39

      @applejuice 说实话,这个ai就像游戏一样,很容易沉迷,我八月份天天2点左右睡,早上起来上班,现在已经过了这个劲了

      A 1 条回复 最后回复
      0
      • heheimbackH heheimback

        @applejuice 说实话,这个ai就像游戏一样,很容易沉迷,我八月份天天2点左右睡,早上起来上班,现在已经过了这个劲了

        A
        A
        applejuice
        技术大牛 劳动模范
        编写于 最后由 编辑
        #40

        @heheimback 的确可以用来决解一些以前需要花大精力来解决的问题

        但是这些都是用云ai
        本地都不用

        heheimbackH 1 条回复 最后回复
        -1
        • A applejuice

          @heheimback 的确可以用来决解一些以前需要花大精力来解决的问题

          但是这些都是用云ai
          本地都不用

          heheimbackH
          heheimbackH
          heheimback
          编写于 最后由 heheimback 编辑
          #41

          @applejuice 本地ai也不错的,我现在就是用本地AI做大本文处理,然后我后面还会部署laya,用于批处理文本,打上标签,算力上来后,能做的事情挺多的,要是laya后面支持多模态就更好了,我图表的分析就更方便了

          1 条回复 最后回复
          0
          • I
            I
            iamvirus
            德高望重
            编写于 最后由 编辑
            #42

            3090 是对标7900xtx 的,因为他们算力上限和支持的精度都在同一个层次上。目前双r9700 功耗和速度都远远好于它们的,并发量一上来prefill就很重要了。完成任务就明显多了,我这个是我个人感受!假如后续还想体验那种更多的agent并发干活的场景,就还得升级算力和模型。

            1 条回复 最后回复
            0
            • williamlouisW
              williamlouisW
              williamlouis
              超级版主
              编写于 最后由 编辑
              #43

              同品你已经有了。上一个生态低于当前品质显卡的同档次卡,只是能让你折腾一下。没什么意义。
              如果是算力不足。可以考虑出售现有卡片后。升级R9700.
              但是 核对现在的市场价格。这次升级的意义不大。

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              A 1 条回复 最后回复
              0
              • williamlouisW williamlouis

                同品你已经有了。上一个生态低于当前品质显卡的同档次卡,只是能让你折腾一下。没什么意义。
                如果是算力不足。可以考虑出售现有卡片后。升级R9700.
                但是 核对现在的市场价格。这次升级的意义不大。

                A
                A
                applejuice
                技术大牛 劳动模范
                编写于 最后由 applejuice 编辑
                #44

                @williamlouis 打算加一张卡,也不是打算代替
                当然如果用到爽换掉3090 也不是不可以

                最近在这里看到2手 r9700 大概12000+ 人民币
                那个人应该再11000 左右入手的

                我猜是用了不顺手所以出掉

                1 条回复 最后回复
                0
                • williamlouisW
                  williamlouisW
                  williamlouis
                  超级版主
                  编写于 最后由 编辑
                  #45

                  R9700 不会比 3090快。唯一优势 显存大了。
                  双卡速度也低于 双3090.
                  生态环境也不如3090
                  再有就是有保修。comfy 也不如3090双卡。

                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                  1 条回复 最后回复
                  0
                  • lesslin xiuL
                    lesslin xiuL
                    lesslin xiu
                    编写于 最后由 编辑
                    #46

                    看你的应用需求。现在价格好,3090 全部卖掉。换张R9700先用个一两年,后面针对性的硬件补上来在买其他,现在是AI的战国时代,后面的事情谁知道。

                    1 条回复 最后回复
                    0
                    • XiaoteX
                      XiaoteX
                      Xiaote
                      编写于 最后由 编辑
                      #47

                      🔥 本帖参与讨论人数已达 15+,入选热议,作者 +3 积分奖励,感谢分享!

                      奖励凭证:热议 +3 分 · 编号 h1910-121-1(系统自动发放,只发一次)

                      老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组