跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 我普通人的算力需求 病态

我普通人的算力需求 病态

已定时 已固定 已锁定 已移动 热议 随便聊聊
rtx3090本地模型
47 帖子 15 发布者 370 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • kos orK kos or

    @applejuice said:

    最怕是我在自我找借口买显卡

    就是由agent驱动的rag
    让llm 自己决定几时从rag 拿,拿什么

    要不然這麼做好了, 你這幾個禮拜內開發一個專案
    具有商業化可行性或潛力, 先用 3090x2 + claude 做出一個MVP雛形產品
    這產品未來可以用R9700每日驅動和管理, 那你將能找到目的了 , 這樣好不 ?

    先構思和做產品, 等你的好消息 😊

    A
    A
    applejuice
    技术大牛 劳动模范
    编写于 最后由 编辑
    #36

    @kos-or 这个我就不行了
    产品这东西 也要有人买 要推销才行

    1 条回复 最后回复
    0
    • A applejuice

      @heheimback 我是自己用ai写的 rag agent
      算是跑通了

      所以才想要不要追加一块...
      刚好机箱电源刚刚还允许

      heheimbackH
      heheimbackH
      heheimback
      编写于 最后由 编辑
      #37

      @applejuice 你自己怎么写的RAG,我用的是linux系统,就让llm用grep查询就可以了,claude code就是这么做的,我就是设计了一下怎么组织知识

      A 1 条回复 最后回复
      0
      • heheimbackH heheimback

        @applejuice 你自己怎么写的RAG,我用的是linux系统,就让llm用grep查询就可以了,claude code就是这么做的,我就是设计了一下怎么组织知识

        A
        A
        applejuice
        技术大牛 劳动模范
        编写于 最后由 applejuice 编辑
        #38

        @heheimback 这样也是可以
        可是有些逻辑 需要有数据库

        也不一定适合其他人
        这个纯属给我自己用

        agent 用的是langgraph 写
        老实说我一行都不会看

        heheimbackH 1 条回复 最后回复
        0
        • A applejuice

          @heheimback 这样也是可以
          可是有些逻辑 需要有数据库

          也不一定适合其他人
          这个纯属给我自己用

          agent 用的是langgraph 写
          老实说我一行都不会看

          heheimbackH
          heheimbackH
          heheimback
          编写于 最后由 编辑
          #39

          @applejuice 说实话,这个ai就像游戏一样,很容易沉迷,我八月份天天2点左右睡,早上起来上班,现在已经过了这个劲了

          A 1 条回复 最后回复
          0
          • heheimbackH heheimback

            @applejuice 说实话,这个ai就像游戏一样,很容易沉迷,我八月份天天2点左右睡,早上起来上班,现在已经过了这个劲了

            A
            A
            applejuice
            技术大牛 劳动模范
            编写于 最后由 编辑
            #40

            @heheimback 的确可以用来决解一些以前需要花大精力来解决的问题

            但是这些都是用云ai
            本地都不用

            heheimbackH 1 条回复 最后回复
            -1
            • A applejuice

              @heheimback 的确可以用来决解一些以前需要花大精力来解决的问题

              但是这些都是用云ai
              本地都不用

              heheimbackH
              heheimbackH
              heheimback
              编写于 最后由 heheimback 编辑
              #41

              @applejuice 本地ai也不错的,我现在就是用本地AI做大本文处理,然后我后面还会部署laya,用于批处理文本,打上标签,算力上来后,能做的事情挺多的,要是laya后面支持多模态就更好了,我图表的分析就更方便了

              1 条回复 最后回复
              0
              • I
                I
                iamvirus
                德高望重
                编写于 最后由 编辑
                #42

                3090 是对标7900xtx 的,因为他们算力上限和支持的精度都在同一个层次上。目前双r9700 功耗和速度都远远好于它们的,并发量一上来prefill就很重要了。完成任务就明显多了,我这个是我个人感受!假如后续还想体验那种更多的agent并发干活的场景,就还得升级算力和模型。

                1 条回复 最后回复
                0
                • williamlouisW
                  williamlouisW
                  williamlouis
                  超级版主
                  编写于 最后由 编辑
                  #43

                  同品你已经有了。上一个生态低于当前品质显卡的同档次卡,只是能让你折腾一下。没什么意义。
                  如果是算力不足。可以考虑出售现有卡片后。升级R9700.
                  但是 核对现在的市场价格。这次升级的意义不大。

                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                  A 1 条回复 最后回复
                  0
                  • williamlouisW williamlouis

                    同品你已经有了。上一个生态低于当前品质显卡的同档次卡,只是能让你折腾一下。没什么意义。
                    如果是算力不足。可以考虑出售现有卡片后。升级R9700.
                    但是 核对现在的市场价格。这次升级的意义不大。

                    A
                    A
                    applejuice
                    技术大牛 劳动模范
                    编写于 最后由 applejuice 编辑
                    #44

                    @williamlouis 打算加一张卡,也不是打算代替
                    当然如果用到爽换掉3090 也不是不可以

                    最近在这里看到2手 r9700 大概12000+ 人民币
                    那个人应该再11000 左右入手的

                    我猜是用了不顺手所以出掉

                    1 条回复 最后回复
                    0
                    • williamlouisW
                      williamlouisW
                      williamlouis
                      超级版主
                      编写于 最后由 编辑
                      #45

                      R9700 不会比 3090快。唯一优势 显存大了。
                      双卡速度也低于 双3090.
                      生态环境也不如3090
                      再有就是有保修。comfy 也不如3090双卡。

                      个人主页:xlkj.org Telegram https://t.me/xlkjorg

                      1 条回复 最后回复
                      0
                      • lesslin xiuL
                        lesslin xiuL
                        lesslin xiu
                        编写于 最后由 编辑
                        #46

                        看你的应用需求。现在价格好,3090 全部卖掉。换张R9700先用个一两年,后面针对性的硬件补上来在买其他,现在是AI的战国时代,后面的事情谁知道。

                        1 条回复 最后回复
                        0
                        • XiaoteX
                          XiaoteX
                          Xiaote
                          编写于 最后由 编辑
                          #47

                          🔥 本帖参与讨论人数已达 15+,入选热议,作者 +3 积分奖励,感谢分享!

                          奖励凭证:热议 +3 分 · 编号 h1910-121-1(系统自动发放,只发一次)

                          老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

                          1 条回复 最后回复
                          0

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组