跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 求推荐,现在的硬件是不是要换一换。

求推荐,现在的硬件是不是要换一换。

已定时 已固定 已锁定 已移动 AI硬件
rtx5070多卡部署本地模型
8 帖子 5 发布者 299 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Nina ChowdhryN
    Nina ChowdhryN
    Nina Chowdhry
    编写于 最后由 Nina Chowdhry 编辑
    #1

    由于家里空间有限,只有一台电脑位置,最满意的是机箱HAF II 500,风扇比脸还大,现在跑这个iq3s的strata项目速度还不错,求教其他硬件是否要换呢,大佬们提提意见,我有兼顾玩游戏的需求,所以不太想考虑A卡,现在的配置是:CPU:9950x3d,主板:微星暗黑x870emax,显卡两张:5070ti,内存ddr5:48gx4,电源1200w,平时想玩玩ai,本人主业空余时间比较多,想靠这台电脑赚点外快,顺便问问有什么推荐普通人学习的方向吗。
    1.jpg
    2.jpg
    ![2.jpg]
    8f15d5929791de7f7e4350075316188f (FILEminimizer).jpg

    1 条回复 最后回复
    1
    • kos orK
      kos orK
      kos or
      超凡大师
      编写于 最后由 kos or 编辑
      #2
      此主題已被删除!
      Nina ChowdhryN 1 条回复 最后回复
      0
      • kos orK kos or
        [[topic:post-is-deleted]]
        Nina ChowdhryN
        Nina ChowdhryN
        Nina Chowdhry
        编写于 最后由 编辑
        #3

        @kos-or 感谢提醒!!!

        1 条回复 最后回复
        0
        • zrlhkZ
          zrlhkZ
          zrlhk
          编写于 最后由 编辑
          #4

          楼主的strata这是双卡的推理速度了,并且是241的ctx,这速度不错了
          目前我单卡+96g ddr3,一到90ctx,decode速度就降到个位数了

          Nina ChowdhryN 1 条回复 最后回复
          0
          • zrlhkZ zrlhk

            楼主的strata这是双卡的推理速度了,并且是241的ctx,这速度不错了
            目前我单卡+96g ddr3,一到90ctx,decode速度就降到个位数了

            Nina ChowdhryN
            Nina ChowdhryN
            Nina Chowdhry
            编写于 最后由 编辑
            #5

            @zrlhk 单卡速度也差不多,所以考虑是不是两张卡卖了换别的卡,比如4080s 32g

            johnnybegoodJ 1 条回复 最后回复
            0
            • Nina ChowdhryN Nina Chowdhry

              @zrlhk 单卡速度也差不多,所以考虑是不是两张卡卖了换别的卡,比如4080s 32g

              johnnybegoodJ
              johnnybegoodJ
              johnnybegood
              超凡大师
              编写于 最后由 编辑
              #6

              @Nina-Chowdhry 说:

              4080s 32g

              blackwell架构换 4080s 32g 完全没必要,5070ti x2 跟我的 3090 24g x2 在 strata下面已经几乎一模一样了, 要换就多往上换, 至少 4090 48G 两块才有意义。

              1 条回复 最后回复
              0
              • zrlhkZ
                zrlhkZ
                zrlhk
                编写于 最后由 编辑
                #7

                今天调试了一天,目前strata最大的问题,就是agent多调用几轮之后,decode速度急速下降,用AI没能分析出原因。
                目前,还是Ninfer方案比较稳,50-75的速度比较稳。strata不知道是哪儿配置的不对。

                1 条回复 最后回复
                0
                • williamlouisW
                  williamlouisW
                  williamlouis
                  超级版主
                  编写于 最后由 编辑
                  #8

                  如果本地大模型你搞明白了。使它具有真正的生产力。赚钱是非常轻松的。
                  1 稳定的长上下文工作
                  2 低一点无法实现一,做到全年响应式也是可以的。
                  3 稳定才是王道。赚钱需要的是执行力。任何一次的无响应。。。。。。。。。。

                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                  1 条回复 最后回复
                  1

                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                  有了你的建议,这篇帖子会更精彩哦 💗

                  注册 登录
                  回复
                  • 在新帖中回复
                  登录后回复
                  • 从旧到新
                  • 从新到旧
                  • 最多赞同


                  • 登录

                  • 登录或注册以进行搜索。
                  • 第一个帖子
                    最后一个帖子
                  0
                  • 版块
                  • 最新
                  • 标签
                  • 热门
                  • 用户
                  • 群组