跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 【摆摊(已告罄 )】哈!终于混出头了,摆个小摊出点硬件!

【摆摊(已告罄 )】哈!终于混出头了,摆个小摊出点硬件!

已定时 已固定 已锁定 已移动 热议 AI硬件
变现amd
70 帖子 29 发布者 1.6k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Ang LeeA
    Ang LeeA
    Ang Lee
    体面乡绅
    编写于 最后由 编辑
    #59

    我用着TRX40配3960X,跑AI的时候AI告诉我4通道提升其实很少,也少了AVX512指令,我看论坛和我的实测数据差不多,唯一优势在两条pcie gen4 x16,但提升应该不会很多。这我的猜想而已

    1 条回复 最后回复
    0
    • A applejuice

      @Magic629 两张显卡出风对着吹?

      Magic629M
      Magic629M
      Magic629
      硕果累累 贵族大夫
      编写于 最后由 编辑
      #60

      @applejuice 家里人嫌太吵,实在没地方放了,过两天扔地下室去。

      1 条回复 最后回复
      0
      • xiongjie gaoX xiongjie gao

        @Magic629 说:

        快待不住了!热的淌汗了!还没跑完……

        我怎么有点期待老哥你的装备秀
        乍一眼就觉得挺能折腾的

        图片

        Magic629M
        Magic629M
        Magic629
        硕果累累 贵族大夫
        编写于 最后由 编辑
        #61

        @xiongjie-gao 哈哈,我都是闲着胡搞着玩。人啊,不能闲着,不然会出问题的😁 😁

        1 条回复 最后回复
        0
        • BunseiB Bunsei

          @fcme 😳 其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。

          核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。

          至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。

          跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...

          Magic629M
          Magic629M
          Magic629
          硕果累累 贵族大夫
          编写于 最后由 编辑
          #62

          @Bunsei 这样搞不的走P2P吗?不然TP也影响啊?再说毕竟双卡不如单卡性能释放的更全面吧?再个,走内存也不如直接走显存来的效果好吧?我是瞎猜啊,只是表示下怀疑那样效果能好吗?瞎猜、瞎猜!

          1 条回复 最后回复
          0
          • Michael ZHANGM Michael ZHANG

            如果用来当作一个服务器24小时不关机,买TRX40/WRX80主板时候,最好是考虑有BMC模块的比较方便远程管理。

            Magic629M
            Magic629M
            Magic629
            硕果累累 贵族大夫
            编写于 最后由 编辑
            #63

            @Michael-ZHANG 家用不用那么复杂吧?PVE服务端+PVE手机端+智能插座完全满足家用了。实在不行加个树莓派啥的板子做控制网关也行啊。

            1 条回复 最后回复
            0
            • W
              W
              wml-ai
              体面乡绅 硕果累累
              编写于 最后由 编辑
              #64

              铭瑄的 MS-iCraft B850 AIGA 支持PCIE 5.0 8+8 拆分,支持P2P,这是亮点,但是这块板子的内存兼容性口碑一般。要是插满四条内存,一定要买完全一样的,否则频率可能跑不了太高。另外,如果要跑多显卡(≧3),可以用PCIE Switch,这些旧硬件都可以保留。

              Windows-Mac-Linux-AI

              BunseiB 1 条回复 最后回复
              0
              • W wml-ai

                铭瑄的 MS-iCraft B850 AIGA 支持PCIE 5.0 8+8 拆分,支持P2P,这是亮点,但是这块板子的内存兼容性口碑一般。要是插满四条内存,一定要买完全一样的,否则频率可能跑不了太高。另外,如果要跑多显卡(≧3),可以用PCIE Switch,这些旧硬件都可以保留。

                BunseiB
                BunseiB
                Bunsei
                至尊皇帝
                编写于 最后由 编辑
                #65

                @wml-ai 主要是不想再额外折腾PCIE SWITCH了。

                W 1 条回复 最后回复
                0
                • BunseiB Bunsei

                  @wml-ai 主要是不想再额外折腾PCIE SWITCH了。

                  W
                  W
                  wml-ai
                  体面乡绅 硕果累累
                  编写于 最后由 编辑
                  #66

                  @Bunsei 说:

                  @wml-ai 主要是不想再额外折腾PCIE SWITCH了。

                  最近看了Six GPUs on One x16 Slot: R9700s and RTX 3090s Behind a PCIe Switch,倒是对PCIE Switch产生了兴趣。但是感觉@fcme说的也有道理—— “本地AI这个事情呢,玩下来就是差不多够用就好了”。一时间也想不到其他的压榨本地模型的事情,加上最近AI圈的动荡,觉得先看看吧,先别折腾了。

                  Windows-Mac-Linux-AI

                  1 条回复 最后回复
                  0
                  • xiaopbroX
                    xiaopbroX
                    xiaopbro
                    体面乡绅 硕果累累
                    编写于 最后由 编辑
                    #67

                    我还多一张R9700,想卖了换B70

                    1 条回复 最后回复
                    0
                    • BunseiB Bunsei

                      @fcme 😳 其实主要是部署思路变了。我考虑 TRX40/WRX80,更多是看中多通道内存,8通道下约等于4通道的DDR5,以及对普通 DDR4 UDIMM 的支持。

                      核心思路是用双 RX 9070 XT 保留与双 R9700 接近的计算资源,再通过增加系统内存容量,承接部分 MoE 模型权重,弥补显存容量的缺口。目标是在满足实际性能需求的前提下,降低显卡、内存和平台的综合成本,提高整套机器的性价比。

                      至于 EPYC,之前被客户那边的服务器折腾怕了,ECC 天天报警,实在有点心理阴影。这次还是更倾向于普通非 ECC 内存的路线,少折腾一点(还能出给游戏佬~)。

                      跟R9700接近一倍的显存差距,要实现我的想法,少不了一顿折腾...

                      terryT
                      terryT
                      terry
                      易有太极
                      编写于 最后由 编辑
                      #68

                      @Bunsei 这个思路没问题

                      油管:https://www.youtube.com/@抡锤者

                      1 条回复 最后回复
                      0
                      • hanber121H hanber121

                        @Bunsei 我前几天也在纠结这俩,最后定了epyc主要是因为8×2DPC,内存价格就能便宜些。但是我感觉要是不图这点便宜,其实还是WRX80更好,频率差距很大,而且布局也更适合放机箱里。我这个只能用开放机架了。

                        Shipo ZoralehuS
                        Shipo ZoralehuS
                        Shipo Zoralehu
                        编写于 最后由 Shipo Zoralehu 编辑
                        #69

                        @hanber121
                        同意+1

                        而且有没有AVX512,还是只有AVX2,其实性能差异放大到整个平台里面个位数百分点,但是平台总价来考虑的话,WRX80+ 3945WX(够用且便宜)+8条32G 加起来就15K-16K左右,和TRX40、TRX90总价钱差异可以海里去了

                        Kirin H.K 1 条回复 最后回复
                        0
                        • Shipo ZoralehuS Shipo Zoralehu

                          @hanber121
                          同意+1

                          而且有没有AVX512,还是只有AVX2,其实性能差异放大到整个平台里面个位数百分点,但是平台总价来考虑的话,WRX80+ 3945WX(够用且便宜)+8条32G 加起来就15K-16K左右,和TRX40、TRX90总价钱差异可以海里去了

                          Kirin H.K
                          Kirin H.K
                          Kirin H.
                          编写于 最后由 编辑
                          #70

                          @Shipo-Zoralehu 至少买3975WX,3975WX以下级别内存带宽只有一半,我就踩坑了5955WX内存只能80G/s

                          1 条回复 最后回复
                          0

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组