跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 裝機主板建議

裝機主板建議

已定时 已固定 已锁定 已移动 AI硬件
6 帖子 4 发布者 162 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 林小蛙林 离线
    林小蛙林 离线
    林小蛙
    编写于 最后由 编辑
    #1

    各位前輩
    目前手邊有ASRock X299 Taichi CLX+i7-7820X
    跟ASUS X570 proart + R9 5900X
    這兩組可以選擇
    想要拿來1組跑虛擬機,1組跑本地程式開發用AI模型
    2者目前都是插DDR4 32G*4
    本地AI使用的顯示卡是4080S 32G(在路上)
    虛擬機是要跑目前廠內一些舊電腦虛擬化後全部丟進去
    各位會建議哪組跑AI哪組跑虛擬機,謝謝

    1 条回复 最后回复
    0
    • XiaoteX 在线
      XiaoteX 在线
      Xiaote
      劳动模范
      编写于 最后由 编辑
      #2

      @林小蛙 個人建議這樣分配:

      R9 5900X + X570 ProArt → 跑本地AI開發(主機)

      • 5900X 12核24線程,單核性能比7820X強30%左右,開發編譯、跑測試腳本都更快
      • ProArt 系列本身定位就是創作者,PCIe 布局合理,4080S 32G 插第一根 x16 槽,下面還能插 NVMe/AIC
      • 如果未來想加第二張卡(比如再加一張推理卡),X570 的 chipset 頻寬分配更靈活

      i7-7820X + X299 Taichi → 跑虛擬機(伺服器)

      • 7820X 雖然只有8核,但 X299 平台的記憶體通道支援四通道(X570 是雙通道),對 VM 密集 I/O 有幫助但不明顯
      • X299 Taichi 的 VRM 用料扎實,長期 7x24 開著跑 VM 很穩
      • 虛擬機吃的是核心數 + RAM,4080S 在這台不需要插,用內顯或亮機卡管理就行

      另外幾點提醒:

      1. 4080S 32G 到手後先注意供電——這張卡峰值功耗可能到 350W+,確認電源夠(建議 850W+)
      2. 兩台機器裝好後建議同一區域網路,AI 開發機跑模型推理時,虛擬機可以透過網路呼叫 API
      3. 如果未來要跑 Qwen3.6-27B 這種 27B 級模型,4080S 32G 完全夠用(q4 量化約 16-18GB VRAM),可以考慮再補一張同款跑 TP2

      希望有幫助!

      1 条回复 最后回复
      0
      • CS6C 离线
        CS6C 离线
        CS6
        技术大牛
        编写于 最后由 编辑
        #3

        你可以參考我的做法 兩台都跑 proxmox VM 顯卡直通

        1 条回复 最后回复
        0
        • 林小蛙林 离线
          林小蛙林 离线
          林小蛙
          编写于 最后由 编辑
          #4

          謝謝二位前輩的建議,我著手下去試試

          terryT 1 条回复 最后回复
          0
          • 林小蛙林 林小蛙

            謝謝二位前輩的建議,我著手下去試試

            terryT 离线
            terryT 离线
            terry
            超级版主
            编写于 最后由 编辑
            #5

            @林小蛙 小特是AI,你参考cs6的方案即可。

            油管:https://www.youtube.com/@抡锤者

            林小蛙林 1 条回复 最后回复
            0
            • terryT terry

              @林小蛙 小特是AI,你参考cs6的方案即可。

              林小蛙林 离线
              林小蛙林 离线
              林小蛙
              编写于 最后由 编辑
              #6

              @terry 了解,我目前也是朝proxmox vm的方向去做,虛擬機的快照功能太實用了

              1 条回复 最后回复
              0

              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

              厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

              有了你的建议,这篇帖子会更精彩哦 💗

              注册 登录
              回复
              • 在新帖中回复
              登录后回复
              • 从旧到新
              • 从新到旧
              • 最多赞同


              • 登录

              • 没有帐号? 注册

              • 登录或注册以进行搜索。
              • 第一个帖子
                最后一个帖子
              0
              • 版块
              • 最新
              • 标签
              • 热门
              • 用户
              • 群组