跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. AI硬件
  4. 双3090 本地AI,大家现在还用消费级平台,还是已经转 TRX40 了?

双3090 本地AI,大家现在还用消费级平台,还是已经转 TRX40 了?

已定时 已固定 已锁定 已移动 AI硬件
rtx3090
13 帖子 7 发布者 382 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Haiyun LIUH Haiyun LIU

    各位大佬,想请教一下硬件路线,主要用于家用本地 AI 文档处理。

    目前配置
    Windows 11
    Ryzen 7 5700X
    64GB DDR4
    RTX 3090 24GB(AI 专用)
    RTX 3050 6GB(Windows、网页、显示)
    Qwen 27B Q4 GGUF(Hermes,64K 上下文)

    目前配合 Codex Plus,日常工作已经基本够用了。

    未来规划

    考虑以后模型越来越大、Agent 越来越复杂,想提前规划下一台机器。

    因为人在海外,所以比较在意:

    功耗(电费)
    性价比
    售后/保修
    Windows 或 Linux 都可以接受

    目前主要纠结两条路线:

    方案一

    W680 + i5-14500T + 双 GPU

    考虑:

    有核显,Windows 可以走核显,独立显卡全部给 AI
    功耗低
    日常办公体验应该最好

    不知道以后双3090(或者3090+下一代显卡)是否还能满足未来本地 AI。

    方案二

    TRX40 + 3960X

    优点:

    PCIe Lane 多
    双3090、三GPU 扩展舒服
    真正 AI 工作站

    缺点:

    CPU 功耗高
    平台成本高

    如果未来长期只是双 GPU,会不会有点浪费?

    另外还有两个问题
    ①

    对于我这种主要做:

    OCR
    RAG
    Agent
    文档处理
    本地推理(SGLang / vLLM)

    大家会更推荐哪条路线?

    有没有我没考虑到的平台?

    (例如 X299、TRX40、W680、甚至其他方案。)

    ②

    海外保修的问题。

    最近也在看国内一些魔改卡(例如 32GB 版本)。

    有人实际从京东自营或淘宝买到海外使用过吗?

    如果返修:

    运费
    关税
    保修流程

    实际体验怎么样?

    感谢各位!

    现在(2026),真正长期玩本地 AI 的朋友,大多数还是消费级平台(AM4/LGA1700),还是已经开始转向 TRX40/TRX50 这类 HEDT 工作站?为什么?

    A 离线
    A 离线
    applejuice
    技术大牛 劳动模范
    编写于 最后由 编辑
    #3

    @Haiyun-LIU 不懂你香港有什么分别.
    但是我在马来西亚寄回根本是恶梦,寄回两张3090显卡大概是10% 显卡的价钱, 还没包过关税. 虽然说在国内买 可以免进关税 但是没人敢确定.
    甚至 运输公司说可能在海关就被丢掉.

    Haiyun LIUH 1 条回复 最后回复
    2
    • A applejuice

      @Haiyun-LIU 不懂你香港有什么分别.
      但是我在马来西亚寄回根本是恶梦,寄回两张3090显卡大概是10% 显卡的价钱, 还没包过关税. 虽然说在国内买 可以免进关税 但是没人敢确定.
      甚至 运输公司说可能在海关就被丢掉.

      Haiyun LIUH 离线
      Haiyun LIUH 离线
      Haiyun LIU
      编写于 最后由 编辑
      #4

      @applejuice 我不是香港,否则我不会说我是海外 我听取@Xiaote 还有lcz youtube 听劝,不折腾魔改卡了,准备试试r9700,@applejuice 你是魔改还是因为二手踩坑,我的3090二手海外当地买的目前还好
      还有你买的是通过aliexpress或京东吗?我aliexpress买过cpu和一些东西,目前感觉还可以

      A 1 条回复 最后回复
      0
      • williamlouisW 离线
        williamlouisW 离线
        williamlouis
        超级版主
        编写于 最后由 编辑
        #5

        我的建议是现在出掉3090.价格现在还可以。时间剩的不多了。目前市场上服务器跑了多年的算力卡在市场有流通的。价格浮夸而已。
        最近国际上 算力需求波动很大。mate 开始出租算力不是一个好的信号。存储类三星 海力士 镁光 股票大跌,虽然又向上浮动回补。
        这些信号对 新卡影响几乎没有。但是即将退役级的老卡 很容易跌破 心里价位。
        以上纯属个人分析。

        个人主页:xlkj.org Telegram https://t.me/xlkjorg

        A Haiyun LIUH kos orK 3 条回复 最后回复
        1
        • Haiyun LIUH Haiyun LIU

          @applejuice 我不是香港,否则我不会说我是海外 我听取@Xiaote 还有lcz youtube 听劝,不折腾魔改卡了,准备试试r9700,@applejuice 你是魔改还是因为二手踩坑,我的3090二手海外当地买的目前还好
          还有你买的是通过aliexpress或京东吗?我aliexpress买过cpu和一些东西,目前感觉还可以

          A 离线
          A 离线
          applejuice
          技术大牛 劳动模范
          编写于 最后由 编辑
          #6

          @Haiyun-LIU 我的是淘宝

          1 条回复 最后回复
          0
          • williamlouisW williamlouis

            我的建议是现在出掉3090.价格现在还可以。时间剩的不多了。目前市场上服务器跑了多年的算力卡在市场有流通的。价格浮夸而已。
            最近国际上 算力需求波动很大。mate 开始出租算力不是一个好的信号。存储类三星 海力士 镁光 股票大跌,虽然又向上浮动回补。
            这些信号对 新卡影响几乎没有。但是即将退役级的老卡 很容易跌破 心里价位。
            以上纯属个人分析。

            A 离线
            A 离线
            applejuice
            技术大牛 劳动模范
            编写于 最后由 编辑
            #7

            @williamlouis 但是现在5090 太贵了
            可以用3年就当赚到

            1 条回复 最后回复
            0
            • williamlouisW williamlouis

              我的建议是现在出掉3090.价格现在还可以。时间剩的不多了。目前市场上服务器跑了多年的算力卡在市场有流通的。价格浮夸而已。
              最近国际上 算力需求波动很大。mate 开始出租算力不是一个好的信号。存储类三星 海力士 镁光 股票大跌,虽然又向上浮动回补。
              这些信号对 新卡影响几乎没有。但是即将退役级的老卡 很容易跌破 心里价位。
              以上纯属个人分析。

              Haiyun LIUH 离线
              Haiyun LIUH 离线
              Haiyun LIU
              编写于 最后由 编辑
              #8

              @williamlouis 是不是3090 换R9700 新卡的意思? 我刚买了R9700 准备试试能不能把3090做的都替掉,然后就准备继续折腾学习看看把工作流继续优化,然后再看需不需要堆卡堆算力,平台主板选好,显卡大头再考虑,因为应该双卡怎么也够了,毕竟也也就做些文书工作。。。

              1 条回复 最后回复
              0
              • williamlouisW williamlouis

                我的建议是现在出掉3090.价格现在还可以。时间剩的不多了。目前市场上服务器跑了多年的算力卡在市场有流通的。价格浮夸而已。
                最近国际上 算力需求波动很大。mate 开始出租算力不是一个好的信号。存储类三星 海力士 镁光 股票大跌,虽然又向上浮动回补。
                这些信号对 新卡影响几乎没有。但是即将退役级的老卡 很容易跌破 心里价位。
                以上纯属个人分析。

                kos orK 离线
                kos orK 离线
                kos or
                技术大牛 劳动模范
                编写于 最后由 编辑
                #9

                @williamlouis 说:

                mate 开始出租算力不是一个好的信号

                Meta Compute 大概也想賺 AWS, Google Cloud 這一部分的市場
                沒感受到Meta 有什麼AI技術是市場大量使用的

                Meta Platforms is launching a new cloud infrastructure business, 
                Meta Compute, to sell excess AI computing capacity.
                
                The move positions NasdaqGS:META as a direct competitor to 
                Amazon Web Services, Microsoft Azure, and Google Cloud.
                
                williamlouisW 1 条回复 最后回复
                0
                • ThirtyT 离线
                  ThirtyT 离线
                  Thirty
                  编写于 最后由 编辑
                  #10

                  楼主你给我的感觉就是想折腾在给自己创建需求。基于你当前主要的需求和已经在用Codex Plus, 那我猜测要处理的工作流也不是什么绝对不能涉外的信息必须本地跑。而且你说比较在意能耗比,说明AI工作流当前并不能直接给你带来可观收益否则你根本不会在乎电费。不知道你是国外哪里,但就拿我长去的德国为例,两三个月的双3090电费够我中度Deepseek V4的API用一年了,这还完全没有算上已经投入的硬件和未来需要投入的硬件成本...

                  所以是不是仔细再考虑一下还有第三种方案,结合你已有的硬件和线上API方案,到哪一天你确定已有软硬件组合不再满足你需求了你再考虑扩展?毕竟不买立省100%

                  Haiyun LIUH 1 条回复 最后回复
                  1
                  • ThirtyT Thirty

                    楼主你给我的感觉就是想折腾在给自己创建需求。基于你当前主要的需求和已经在用Codex Plus, 那我猜测要处理的工作流也不是什么绝对不能涉外的信息必须本地跑。而且你说比较在意能耗比,说明AI工作流当前并不能直接给你带来可观收益否则你根本不会在乎电费。不知道你是国外哪里,但就拿我长去的德国为例,两三个月的双3090电费够我中度Deepseek V4的API用一年了,这还完全没有算上已经投入的硬件和未来需要投入的硬件成本...

                    所以是不是仔细再考虑一下还有第三种方案,结合你已有的硬件和线上API方案,到哪一天你确定已有软硬件组合不再满足你需求了你再考虑扩展?毕竟不买立省100%

                    Haiyun LIUH 离线
                    Haiyun LIUH 离线
                    Haiyun LIU
                    编写于 最后由 Haiyun LIU 编辑
                    #11

                    @Thirty 谢谢建议,codex 弄得是流程,本地弄得是内容,我挺清楚我自己的需求的呀

                    1 条回复 最后回复
                    0
                    • kos orK kos or

                      @williamlouis 说:

                      mate 开始出租算力不是一个好的信号

                      Meta Compute 大概也想賺 AWS, Google Cloud 這一部分的市場
                      沒感受到Meta 有什麼AI技術是市場大量使用的

                      Meta Platforms is launching a new cloud infrastructure business, 
                      Meta Compute, to sell excess AI computing capacity.
                      
                      The move positions NasdaqGS:META as a direct competitor to 
                      Amazon Web Services, Microsoft Azure, and Google Cloud.
                      
                      williamlouisW 离线
                      williamlouisW 离线
                      williamlouis
                      超级版主
                      编写于 最后由 编辑
                      #12

                      @kos-or 是Meta 我打错了。分析这些信号偏离主题内容了。硬件价格回落是我纯个人猜测。

                      个人主页:xlkj.org Telegram https://t.me/xlkjorg

                      1 条回复 最后回复
                      0
                      • Botio KuoB 离线
                        Botio KuoB 离线
                        Botio Kuo
                        编写于 最后由 编辑
                        #13

                        除非目前有VRAM大于 24gb 的选择,不然目前想搞AI还是显卡实在,一堆共用内存的设计还不是完美的主流方案,可能跑跑对话可以,但如果你的需求不只有对话跟写码,3090还是非常高CP的选择

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 没有帐号? 注册

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 首页
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组