跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 小白自学,希望大家给我下面的配置一些指导。

小白自学,希望大家给我下面的配置一些指导。

已定时 已固定 已锁定 已移动 AI硬件
26 帖子 7 发布者 418 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT terry

    @Chuyao-Chen 也够你玩了,等挣到钱了,再拜托国内朋友搞下。24G的卡我会带着做,N卡比A卡节约资源,体验会比xtx好点。xtx能做的,你看视频跟着做也能。

    Chuyao ChenC 离线
    Chuyao ChenC 离线
    Chuyao Chen
    编写于 最后由 编辑
    #12

    @terry 你说的真的是肺腑之言。 硬件就是消耗品,直接上手干活的时间成本太重要了。 这几天看你的视频都看了好几遍。一分钱一分货不折腾了。

    1 条回复 最后回复
    0
    • Chuyao ChenC Chuyao Chen

      @Sam-Hsu 搞定了。谢谢您。 我太呆了。我以为2000 是总共的价格。 X99 F8D PLUS 890 我以为这个是型号。没想到890是价钱。

      Sam HsuS 离线
      Sam HsuS 离线
      Sam Hsu
      编写于 最后由 编辑
      #13

      @Chuyao-Chen ddr4 reg ecc 16gb 2133 每條300左右
      最好上4條 64gb以上 因為cpu4通道 只插2條 速度少一半

      Chuyao ChenC 1 条回复 最后回复
      0
      • Sam HsuS Sam Hsu

        @Chuyao-Chen ddr4 reg ecc 16gb 2133 每條300左右
        最好上4條 64gb以上 因為cpu4通道 只插2條 速度少一半

        Chuyao ChenC 离线
        Chuyao ChenC 离线
        Chuyao Chen
        编写于 最后由 编辑
        #14

        @Sam-Hsu 全部买好了按照您的配方

        Sam HsuS 1 条回复 最后回复
        0
        • 杨tom杨 离线
          杨tom杨 离线
          杨tom
          编写于 最后由 编辑
          #15

          @terry 我大概也是差不多的配置, 主要用于长编码任务,我想这主板可以上两块r9700 32g吗

          terryT 1 条回复 最后回复
          -1
          • 杨tom杨 杨tom

            @terry 我大概也是差不多的配置, 主要用于长编码任务,我想这主板可以上两块r9700 32g吗

            terryT 在线
            terryT 在线
            terry
            编写于 最后由 编辑
            #16

            @杨tom x99 ddr3的都可以,这个当然也可以了。轻松秒杀,而且跑大模型TP效果不错,跑comfyUI两个实例并行,完全没问题。前提是你要懂Linux,它就是神器。

            1 条回复 最后回复
            1
            • 杨tom杨 离线
              杨tom杨 离线
              杨tom
              编写于 最后由 编辑
              #17

              @terry 感谢回复 linux 没啥问题, 我原本是弄后端的,想四并发27b模型来做长任务编码使用,再加上点本地知识库啥的 有点显存焦虑 资金有限

              terryT 1 条回复 最后回复
              0
              • 杨tom杨 杨tom

                @terry 感谢回复 linux 没啥问题, 我原本是弄后端的,想四并发27b模型来做长任务编码使用,再加上点本地知识库啥的 有点显存焦虑 资金有限

                terryT 在线
                terryT 在线
                terry
                编写于 最后由 terry 编辑
                #18

                @杨tom 4并发27b它还不是轻松秒杀?记得研究下MTP投机解码,速度给你拉满。你可以跑TP上多会话,研究下VLLM MTP投机解码,要极致并发还是要SG-Lang,不过据说这玩意对最新版的Qwen不友好,要去下载Github源码包编译。A卡我估计没人能编译成功,下载Docker或许是唯一解药。对了,再研究下turoquant,技术都成熟了,算力也够。总之硬件没问题,剩下的看个人本事了。

                1 条回复 最后回复
                0
                • Chuyao ChenC Chuyao Chen

                  @Sam-Hsu 全部买好了按照您的配方

                  Sam HsuS 离线
                  Sam HsuS 离线
                  Sam Hsu
                  编写于 最后由 编辑
                  #19

                  @Chuyao-Chen
                  恭喜
                  平台千萬用Ubuntu
                  用windows 能噁心死
                  清單列出來 我看看有沒有少什麼

                  Chuyao ChenC 1 条回复 最后回复
                  0
                  • Sam HsuS Sam Hsu

                    @Chuyao-Chen
                    恭喜
                    平台千萬用Ubuntu
                    用windows 能噁心死
                    清單列出來 我看看有沒有少什麼

                    Chuyao ChenC 离线
                    Chuyao ChenC 离线
                    Chuyao Chen
                    编写于 最后由 编辑
                    #20

                    @Sam-Hsu
                    x99 f8d plus
                    E5 2696v4 双路
                    ddr4 reg ecc 128GB (16X8) (二手)
                    3090 24G (京东限制高消费不知道为啥)
                    1TB TIPLUS7100S M.2
                    1TB SATA SSD 二手
                    人在海外可以买到RTX6000 或者可以转性价比高的A卡或者N魔改卡。
                    机箱目前再看
                    电源也在看
                    我本来还想用windows的Comfyui整合包呢。Linux也不是不行。

                    K 1 条回复 最后回复
                    0
                    • Chuyao ChenC Chuyao Chen

                      @Sam-Hsu
                      x99 f8d plus
                      E5 2696v4 双路
                      ddr4 reg ecc 128GB (16X8) (二手)
                      3090 24G (京东限制高消费不知道为啥)
                      1TB TIPLUS7100S M.2
                      1TB SATA SSD 二手
                      人在海外可以买到RTX6000 或者可以转性价比高的A卡或者N魔改卡。
                      机箱目前再看
                      电源也在看
                      我本来还想用windows的Comfyui整合包呢。Linux也不是不行。

                      K 离线
                      K 离线
                      kenshin
                      编写于 最后由 编辑
                      #21

                      @Chuyao-Chen 看的心痒痒的。等你配齐了,麻烦你发出来,我也想抄作业。😁

                      1 条回复 最后回复
                      0
                      • ping linP 离线
                        ping linP 离线
                        ping lin
                        编写于 最后由 编辑
                        #22

                        想请教一下。为什么内存要配128g,我在amazon上面看到有卖,32gddr32的64g,我在考虑要不要配324的内存,因为我已经买了e52666v3的主板,只能插4张卡,就是有必要上128g吗?

                        terryT 1 条回复 最后回复
                        0
                        • ping linP ping lin

                          想请教一下。为什么内存要配128g,我在amazon上面看到有卖,32gddr32的64g,我在考虑要不要配324的内存,因为我已经买了e52666v3的主板,只能插4张卡,就是有必要上128g吗?

                          terryT 在线
                          terryT 在线
                          terry
                          编写于 最后由 编辑
                          #23

                          @ping-lin 128都超配了,64都用不完,DDR3的平台以后都是垃圾,要不是内存涨价这些条子都按斤卖的,你买那么大内存干嘛?等D4 D5大降价,入手新平台。

                          ping linP 1 条回复 最后回复
                          1
                          • terryT terry

                            @ping-lin 128都超配了,64都用不完,DDR3的平台以后都是垃圾,要不是内存涨价这些条子都按斤卖的,你买那么大内存干嘛?等D4 D5大降价,入手新平台。

                            ping linP 离线
                            ping linP 离线
                            ping lin
                            编写于 最后由 编辑
                            #24

                            @terry 好的,好的,谢谢!

                            1 条回复 最后回复
                            0
                            • Chuyao ChenC 离线
                              Chuyao ChenC 离线
                              Chuyao Chen
                              编写于 最后由 编辑
                              #25

                              今天下午的机子马上就要到了,然后我是自己组装的,在软件方面我打算装双系统一个linux一个windows。就是我这里想问一下linux有没有什么就是特别好用的版本,或者说呃特别需要避坑的版本。还是说都一样。

                              terryT 1 条回复 最后回复
                              1
                              • Chuyao ChenC Chuyao Chen

                                今天下午的机子马上就要到了,然后我是自己组装的,在软件方面我打算装双系统一个linux一个windows。就是我这里想问一下linux有没有什么就是特别好用的版本,或者说呃特别需要避坑的版本。还是说都一样。

                                terryT 在线
                                terryT 在线
                                terry
                                编写于 最后由 编辑
                                #26

                                @Chuyao-Chen 没啥好的版本,桌面都是垃圾,不能当作主力机器,你找下ubuntu的轻量改装版,ubuntu的桌面废了,我都是ssh的。

                                1 条回复 最后回复
                                0

                                你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                有了你的建议,这篇帖子会更精彩哦 💗

                                注册 登录
                                回复
                                • 在新帖中回复
                                登录后回复
                                • 从旧到新
                                • 从新到旧
                                • 最多赞同


                                • 登录

                                • 没有帐号? 注册

                                • 登录或注册以进行搜索。
                                • 第一个帖子
                                  最后一个帖子
                                0
                                • 版块
                                • 最新
                                • 标签
                                • 热门
                                • 用户
                                • 群组