跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 小孩读人工智能专业,想组一台主机供学习,麻烦各位大神推荐一下

小孩读人工智能专业,想组一台主机供学习,麻烦各位大神推荐一下

已定时 已固定 已锁定 已移动 AI硬件
41 帖子 16 发布者 619 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • kop wangK 在线
    kop wangK 在线
    kop wang
    超级版主
    编写于 最后由 编辑
    #2

    一般来讲,机器学习(ML)等这些课都是在学校实验室做的,很少会自组。
    因为老师留的作业以及你需要的环境都是基于学校现有的条件和老师的课题而来的。
    你自组很难摸到甜点,而且现在这个形式,训练模型参数差1B,价格就翻几番。

    所以买电脑只考虑使用需求就好,不用考虑LLM训练等相关需求。
    实在需要,可以选择租用远程实例来作为自己研究、学习的手段。目前市场价5090大概4元一小时,RTX PRO 6000大概8元一小时。

    虚心交流,一起进步

    1 条回复 最后回复
    0
    • L 离线
      L 离线
      lz007
      编写于 最后由 编辑
      #3

      @kop-wang 多谢!开始也考虑过租,主要是考虑学校教授的与实际应用差距太大(虽然现阶段价格不友好),也算是另一种实践方式吧,

      kop wangK 1 条回复 最后回复
      0
      • L lz007

        @kop-wang 多谢!开始也考虑过租,主要是考虑学校教授的与实际应用差距太大(虽然现阶段价格不友好),也算是另一种实践方式吧,

        kop wangK 在线
        kop wangK 在线
        kop wang
        超级版主
        编写于 最后由 kop wang 编辑
        #4

        @lz007 如果说是以课外实践为主的话,这个预算价格看看AIMAX 395的统一内存主机。但是AI MAX 395有个问题,目前的ML预训练严重依赖英伟达的CUDA架构,所以如果买AI MAX 395,有可能无法顺畅的实践训练,推理(也就是运行)是没问题的。就是慢而已。

        要注意,一定买128GB内存的版本,一些三线、二线品牌价格能压在2.2W左右。一线品牌肯定接近三万了。

        如果有一线品牌需求,就不要买接近三万的AI MAX 395,买英伟达GB10芯片的小主机,比如微型、华硕。他们也是3万出头的价格。

        GB10有CUDA,可以更顺畅的进行预训练、微调。

        我不太推荐传统的DIY主机的原因是:
        1、超预算,训练一个3B的模型,最起码需要16GB显存,想稳跑最起码要24GB,光显卡就超预算了。
        2、作为学生,实践探索不应该被硬件束缚上限,128GB的统一内存,最起码能折腾稍大一些的模型,从实践实验的角度上讲,速度反而不敏感。

        虚心交流,一起进步

        1 条回复 最后回复
        2
        • XiaoteX 在线
          XiaoteX 在线
          Xiaote
          劳动模范
          编写于 最后由 编辑
          #5

          @lz007 给孩子配 AI 学习主机,我来给个具体的方案参考。

          1-2万预算其实可以配一台不错的本地实践机器。关键看你孩子具体学什么方向:

          方案一:深度学习/模型训练方向(需要CUDA) 🎯

          • CPU: R7 7700 / i5-14600KF (~2000)
          • 主板: B650M / B760M (~1000)
          • 内存: DDR5 32GB×2 (~1200)
          • 显卡: RTX 4060 Ti 16GB (~3500) 或二手 RTX 3090 24G (~5000-6000)
          • SSD: 2TB NVMe (~1000)
          • 电源: 750W (~600)
          • 机箱散热: (~500)
            总计约 1-1.5万,剩下买显示器键鼠

          4060 Ti 16GB 对于本科生阶段跑 BERT、ResNet、LoRA 微调完全够用,24GB显存(二手3090)能跑 Qwen 3.6 27B 这种大模型。

          方案二:全栈 AI Agent 实践方向
          上面配置换成 RTX 4070 12GB(约4500),重点加内存到 64GB,方便跑多个 Docker 容器实践 MLOps。

          方案三:纯入门 + 云GPU补充
          配一台 4060 8GB 的常规主机(约8000),剩余预算充值到 AutoDL/Vast.ai 租 4090/5090 按小时用(~4元/小时)。学校作业云上跑,本地装 ollama + Hermes Agent 玩本地模型。

          关键建议:

          • 大二前主要用云,本地有张 16GB+ 显卡跑实验就够了
          • AMX 395 统一内存主机对 CUDA 生态兼容性有限,谨慎选
          • 多出来的预算买个好显示器(4K 27寸对看论文代码帮助很大)

          kop wang 说的"学校实验室为主"没错,但孩子自己能拥有一台可以随时折腾的机器,对学习的帮助比排队等学校集群大得多。

          1 条回复 最后回复
          0
          • imbiplaza ASUSI 离线
            imbiplaza ASUSI 离线
            imbiplaza ASUS
            技术大牛 劳动模范
            编写于 最后由 编辑
            #6

            我也想知道所谓读人工智能专业,真的需要到一套上万的主机吗?

            A 1 条回复 最后回复
            0
            • 张老师张 离线
              张老师张 离线
              张老师
              劳动模范 德高望重
              编写于 最后由 编辑
              #7

              学校是个大舞台,学生又是比较爱装逼的演员!到了学校以后观察观察,人家都在用什么样的配置,稳一手就问一问专业课导师,你再出钱给他照样抓药!

              1 条回复 最后回复
              0
              • imbiplaza ASUSI imbiplaza ASUS

                我也想知道所谓读人工智能专业,真的需要到一套上万的主机吗?

                A 离线
                A 离线
                aaronku
                编写于 最后由 编辑
                #8

                @imbiplaza-ASUS 说:

                我也想知道所谓读人工智能专业,真的需要到一套上万的主机吗?

                我买过美高的minipc 128G的内存 量化 qwen3.6 35b

                1 条回复 最后回复
                0
                • L 离线
                  L 离线
                  lz007
                  编写于 最后由 编辑
                  #9

                  @xiaote 谢谢!小孩本科电子信息,目前研一,因目前人工智能发展太快,想组电脑是方便调试、验证,有兴趣也可以也可以学以致用。租用云服务主要是对可靠性、便利性等有顾虑。所以借论坛这块宝地来取经。

                  Tony WangT 1 条回复 最后回复
                  0
                  • L lz007

                    @xiaote 谢谢!小孩本科电子信息,目前研一,因目前人工智能发展太快,想组电脑是方便调试、验证,有兴趣也可以也可以学以致用。租用云服务主要是对可靠性、便利性等有顾虑。所以借论坛这块宝地来取经。

                    Tony WangT 离线
                    Tony WangT 离线
                    Tony Wang
                    超级版主
                    编写于 最后由 编辑
                    #10

                    @lz007

                    孩子的专业研究方向是什么? 1-2万配备一个通用的, 各个方向都能打的机器很困难. 还是要看具体的需求. 到底是算力优先, 还是显存优先? 还是要二者平衡?

                    1 条回复 最后回复
                    0
                    • terryT 离线
                      terryT 离线
                      terry
                      超级版主
                      编写于 最后由 编辑
                      #11

                      小孩需要的是一台能玩游戏的电脑,什么人工智能,大学宿舍里要电脑就是玩游戏。不玩游戏还叫大学生吗?大学老师教的那些东西基本都过时了,真正懂人工智能的,也没几个在大学里任教。要我说,2万以内,让孩子自己配,都上大学了,你就不能让他称心如意一点?他就是给自己弄个游戏机,也不碍事,要吃亏的会趁早,从学校开始。

                      油管:https://www.youtube.com/@抡锤者

                      1 条回复 最后回复
                      2
                      • L 离线
                        L 离线
                        lz007
                        编写于 最后由 编辑
                        #12

                        @terry 感谢。大学本科已配了电脑(think14),家里也有带独显u的笔记本(R7000),但女孩子不怎么玩电脑游戏。学校的人工智能专业除了名字唬人外,怕没多少真东西。所以想配个让她练手。

                        terryT CS6C 2 条回复 最后回复
                        1
                        • L lz007

                          @terry 感谢。大学本科已配了电脑(think14),家里也有带独显u的笔记本(R7000),但女孩子不怎么玩电脑游戏。学校的人工智能专业除了名字唬人外,怕没多少真东西。所以想配个让她练手。

                          terryT 离线
                          terryT 离线
                          terry
                          超级版主
                          编写于 最后由 terry 编辑
                          #13

                          @lz007 我鲁莽了😂,女孩子其实苹果也能玩,主要能兼顾办公。如果说不着急,可以等老黄的RTX Spark上市,英伟达生态还是好的,Gb10的小盒子也不错。别买AMD,折腾不起。学AI专业的,生态还是很重要的。

                          油管:https://www.youtube.com/@抡锤者

                          1 条回复 最后回复
                          1
                          • M 离线
                            M 离线
                            mark
                            超凡大师
                            编写于 最后由 编辑
                            #14

                            男孩还是女孩? 大概几本? 本科还是研究生? 告诉我

                            1 条回复 最后回复
                            0
                            • kos orK 离线
                              kos orK 离线
                              kos or
                              劳动模范 德高望重
                              编写于 最后由 kos or 编辑
                              #15

                              Nvidia 5060 Ti 16GB x 2 張 (PC) 我覺得可以 顯卡相對便宜很多 又有保固
                              最近RTX Spark 筆記型電腦 和 Macbook Pro M5 Po 筆記型電腦 行動便利性高 可以上課時帶著 (筆電Notebook 對女孩子來說好像比較好 ? )
                              先不急著買 等確定未來三年的需求後(要往AI 的哪一個應用面發展??) 再做硬體採購決定 多比較

                              1 条回复 最后回复
                              0
                              • L lz007

                                @terry 感谢。大学本科已配了电脑(think14),家里也有带独显u的笔记本(R7000),但女孩子不怎么玩电脑游戏。学校的人工智能专业除了名字唬人外,怕没多少真东西。所以想配个让她练手。

                                CS6C 离线
                                CS6C 离线
                                CS6
                                技术大牛 劳动模范
                                编写于 最后由 CS6 编辑
                                #16

                                @lz007
                                熟悉 Macbook 對海外與新創有加分不是必要,設備公司會發有錢也可以自己買,但命令列環境熟悉度是需要時間磨出來的。
                                我建議讓本科生多熟悉 linux ,然後幫她辦張限額的副卡租虛擬主機的算力.....(阿里或是海外的GPU 平台)
                                這年頭你沒實戰部署經驗的新人很難找工作的,讓他盡快找找實習機會,設備用公司發的就好,
                                不是我要求學生太多,我不熟大陸的就業市場,但現在海外是真的不太帶新人了職缺都在縮編,一個本科生能搞按照文件搞定開發環境是基本素養,試錯用的設備他目前的筆電裝雙系統足夠用了不太需要買,

                                我帶 intern 都是要求他們先自學 linux 基礎,畢竟這是大多數崗位都通用的基礎技能(ERP 專精崗除外,但我這邊的年輕人不愛)
                                再來是 AI 專業讀不懂算法就可以洗洗睡了,出來八成也是碼農崗,學校也就那幾間top的能跟上甚至帶領業界,大多數人還是需要靠自學的....
                                至於要用上 CUDA / GB10 / AI MAX 39 的前提是看得懂論文需要訓練/微調模型,在她跟你開口前都不需要買,買了沒用上等他真的需要的時候還要再拿一筆錢出來換新的設備,大學生靠自己專業賺點零花錢做啟動資金不難的,家長只需要給予鼓勵跟支持就好,等她真的投入在這領域需要資金就會自己開口了,CSIE 的學生不至於沒有自主分析規劃能力,如果真的有用上會不知道自己需要什麼樣設備都不懂嗎?
                                讓孩子自己上來討論需求吧

                                再來他是住校嗎?還是住家裡? 如果平常不在家裡宿舍又不能放置大功率的設備,要怎麼樣遠程維運?(對於老手來說沒什麼問題,但新手需要練習管理設備。)

                                實驗室應該可以接觸到 MLOps AIOps 等技能,尤其越窮的 Lab 這塊要越扎實....為了省錢

                                1 条回复 最后回复
                                0
                                • Peace LoveP 离线
                                  Peace LoveP 离线
                                  Peace Love
                                  编写于 最后由 Peace Love 编辑
                                  #17

                                  既然是搞AI專業的, 那就選一個夠大的機箱 ( 9 ~10 PCIE), 或 開放機架, 目標三張兩槽卡, 或一大一小卡
                                  風扇要給力的 ,通風要極佳, PSU 也不能太小, 1500W 吧

                                  目標是跑一個語言模型(要省錢就能16G+16G)加一個及時視覺模型或 Agent ?

                                  1 条回复 最后回复
                                  0
                                  • L 离线
                                    L 离线
                                    lz007
                                    编写于 最后由 编辑
                                    #18

                                    @mark 谢谢。女孩,一本,研一

                                    Tony WangT 1 条回复 最后回复
                                    0
                                    • L 离线
                                      L 离线
                                      lz007
                                      编写于 最后由 编辑
                                      #19

                                      @cs6 谢谢。学校离家近。家里也有Mac mini与Macbook(m2系列),目前本科阶段给小孩配的有笔记本电脑。我的想法也是从软件入门(Linux、算法什么的),但Al硬件方面也想在家搭一个本地环境,请问ai除了对显卡(显存24G or 48 G)、内存(>64 G)、硬盘(ssd)有要求外,是否还要其它?老黄或库克出的统一内存架构硬件是否适合拆腾?

                                      CS6C 1 条回复 最后回复
                                      0
                                      • M 离线
                                        M 离线
                                        mark
                                        超凡大师
                                        编写于 最后由 编辑
                                        #20

                                        女孩 轻点折腾吧, 早点嫁人. 学人工智能, 最多能干5年. 干程序员这行,我就没见过超过十年的女程序员.

                                        女孩, 买 macbook pro, 万一以后不用转手卖 就行.

                                        老黄的显卡,太贵. 你2万块钱买不了啥好的显卡.

                                        terryT 1 条回复 最后回复
                                        1
                                        • M 离线
                                          M 离线
                                          mark
                                          超凡大师
                                          编写于 最后由 mark 编辑
                                          #21

                                          我本科是,计算机科班出身, 正经软件工程专业, 班上36人, 24人是男生, 12个女生.
                                          这12个女生,毕业后基本都没有从事程序员行业, 基本都被男人惯坏了.
                                          女程序员,最长的职业生命周期,就是五年,就嫁人生娃,就不工作了.
                                          计算机系,一群男人,不要个脸,天天舔着个脸,天天给女生做作业,女生的程序都不用自己写.
                                          女生的计算机水平,都是这样被惯坏的.
                                          主要是不能加班,国内的就业环境你懂的.

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组