跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 小白自学,希望大家给我下面的配置一些指导。

小白自学,希望大家给我下面的配置一些指导。

已定时 已固定 已锁定 已移动 AI硬件
26 帖子 7 发布者 418 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Sam HsuS Sam Hsu

    @Chuyao-Chen ddr4 reg ecc 16gb 2133 每條300左右
    最好上4條 64gb以上 因為cpu4通道 只插2條 速度少一半

    Chuyao ChenC 离线
    Chuyao ChenC 离线
    Chuyao Chen
    编写于 最后由 编辑
    #14

    @Sam-Hsu 全部买好了按照您的配方

    Sam HsuS 1 条回复 最后回复
    0
    • 杨tom杨 离线
      杨tom杨 离线
      杨tom
      编写于 最后由 编辑
      #15

      @terry 我大概也是差不多的配置, 主要用于长编码任务,我想这主板可以上两块r9700 32g吗

      terryT 1 条回复 最后回复
      -1
      • 杨tom杨 杨tom

        @terry 我大概也是差不多的配置, 主要用于长编码任务,我想这主板可以上两块r9700 32g吗

        terryT 离线
        terryT 离线
        terry
        编写于 最后由 编辑
        #16

        @杨tom x99 ddr3的都可以,这个当然也可以了。轻松秒杀,而且跑大模型TP效果不错,跑comfyUI两个实例并行,完全没问题。前提是你要懂Linux,它就是神器。

        1 条回复 最后回复
        1
        • 杨tom杨 离线
          杨tom杨 离线
          杨tom
          编写于 最后由 编辑
          #17

          @terry 感谢回复 linux 没啥问题, 我原本是弄后端的,想四并发27b模型来做长任务编码使用,再加上点本地知识库啥的 有点显存焦虑 资金有限

          terryT 1 条回复 最后回复
          0
          • 杨tom杨 杨tom

            @terry 感谢回复 linux 没啥问题, 我原本是弄后端的,想四并发27b模型来做长任务编码使用,再加上点本地知识库啥的 有点显存焦虑 资金有限

            terryT 离线
            terryT 离线
            terry
            编写于 最后由 terry 编辑
            #18

            @杨tom 4并发27b它还不是轻松秒杀?记得研究下MTP投机解码,速度给你拉满。你可以跑TP上多会话,研究下VLLM MTP投机解码,要极致并发还是要SG-Lang,不过据说这玩意对最新版的Qwen不友好,要去下载Github源码包编译。A卡我估计没人能编译成功,下载Docker或许是唯一解药。对了,再研究下turoquant,技术都成熟了,算力也够。总之硬件没问题,剩下的看个人本事了。

            1 条回复 最后回复
            0
            • Chuyao ChenC Chuyao Chen

              @Sam-Hsu 全部买好了按照您的配方

              Sam HsuS 离线
              Sam HsuS 离线
              Sam Hsu
              编写于 最后由 编辑
              #19

              @Chuyao-Chen
              恭喜
              平台千萬用Ubuntu
              用windows 能噁心死
              清單列出來 我看看有沒有少什麼

              Chuyao ChenC 1 条回复 最后回复
              0
              • Sam HsuS Sam Hsu

                @Chuyao-Chen
                恭喜
                平台千萬用Ubuntu
                用windows 能噁心死
                清單列出來 我看看有沒有少什麼

                Chuyao ChenC 离线
                Chuyao ChenC 离线
                Chuyao Chen
                编写于 最后由 编辑
                #20

                @Sam-Hsu
                x99 f8d plus
                E5 2696v4 双路
                ddr4 reg ecc 128GB (16X8) (二手)
                3090 24G (京东限制高消费不知道为啥)
                1TB TIPLUS7100S M.2
                1TB SATA SSD 二手
                人在海外可以买到RTX6000 或者可以转性价比高的A卡或者N魔改卡。
                机箱目前再看
                电源也在看
                我本来还想用windows的Comfyui整合包呢。Linux也不是不行。

                K 1 条回复 最后回复
                0
                • Chuyao ChenC Chuyao Chen

                  @Sam-Hsu
                  x99 f8d plus
                  E5 2696v4 双路
                  ddr4 reg ecc 128GB (16X8) (二手)
                  3090 24G (京东限制高消费不知道为啥)
                  1TB TIPLUS7100S M.2
                  1TB SATA SSD 二手
                  人在海外可以买到RTX6000 或者可以转性价比高的A卡或者N魔改卡。
                  机箱目前再看
                  电源也在看
                  我本来还想用windows的Comfyui整合包呢。Linux也不是不行。

                  K 离线
                  K 离线
                  kenshin
                  编写于 最后由 编辑
                  #21

                  @Chuyao-Chen 看的心痒痒的。等你配齐了,麻烦你发出来,我也想抄作业。😁

                  1 条回复 最后回复
                  0
                  • ping linP 离线
                    ping linP 离线
                    ping lin
                    编写于 最后由 编辑
                    #22

                    想请教一下。为什么内存要配128g,我在amazon上面看到有卖,32gddr32的64g,我在考虑要不要配324的内存,因为我已经买了e52666v3的主板,只能插4张卡,就是有必要上128g吗?

                    terryT 1 条回复 最后回复
                    0
                    • ping linP ping lin

                      想请教一下。为什么内存要配128g,我在amazon上面看到有卖,32gddr32的64g,我在考虑要不要配324的内存,因为我已经买了e52666v3的主板,只能插4张卡,就是有必要上128g吗?

                      terryT 离线
                      terryT 离线
                      terry
                      编写于 最后由 编辑
                      #23

                      @ping-lin 128都超配了,64都用不完,DDR3的平台以后都是垃圾,要不是内存涨价这些条子都按斤卖的,你买那么大内存干嘛?等D4 D5大降价,入手新平台。

                      ping linP 1 条回复 最后回复
                      1
                      • terryT terry

                        @ping-lin 128都超配了,64都用不完,DDR3的平台以后都是垃圾,要不是内存涨价这些条子都按斤卖的,你买那么大内存干嘛?等D4 D5大降价,入手新平台。

                        ping linP 离线
                        ping linP 离线
                        ping lin
                        编写于 最后由 编辑
                        #24

                        @terry 好的,好的,谢谢!

                        1 条回复 最后回复
                        0
                        • Chuyao ChenC 离线
                          Chuyao ChenC 离线
                          Chuyao Chen
                          编写于 最后由 编辑
                          #25

                          今天下午的机子马上就要到了,然后我是自己组装的,在软件方面我打算装双系统一个linux一个windows。就是我这里想问一下linux有没有什么就是特别好用的版本,或者说呃特别需要避坑的版本。还是说都一样。

                          terryT 1 条回复 最后回复
                          1
                          • Chuyao ChenC Chuyao Chen

                            今天下午的机子马上就要到了,然后我是自己组装的,在软件方面我打算装双系统一个linux一个windows。就是我这里想问一下linux有没有什么就是特别好用的版本,或者说呃特别需要避坑的版本。还是说都一样。

                            terryT 离线
                            terryT 离线
                            terry
                            编写于 最后由 编辑
                            #26

                            @Chuyao-Chen 没啥好的版本,桌面都是垃圾,不能当作主力机器,你找下ubuntu的轻量改装版,ubuntu的桌面废了,我都是ssh的。

                            1 条回复 最后回复
                            0

                            你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                            厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                            有了你的建议,这篇帖子会更精彩哦 💗

                            注册 登录
                            回复
                            • 在新帖中回复
                            登录后回复
                            • 从旧到新
                            • 从新到旧
                            • 最多赞同


                            • 登录

                            • 没有帐号? 注册

                            • 登录或注册以进行搜索。
                            • 第一个帖子
                              最后一个帖子
                            0
                            • 版块
                            • 最新
                            • 标签
                            • 热门
                            • 用户
                            • 群组