跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. 随便聊聊
  4. 小白想搭家庭AI:PVE+局域网+VPN,一张显卡还是两张?

小白想搭家庭AI:PVE+局域网+VPN,一张显卡还是两张?

已定时 已固定 已锁定 已移动 随便聊聊
服务器网络本地模型
14 帖子 6 发布者 126 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Dady PanD
    Dady PanD
    Dady Pan
    编写于 最后由 编辑
    #5
    此主題已被删除!
    1 条回复 最后回复
    0
    • williamlouisW
      williamlouisW
      williamlouis
      超级版主
      编写于 最后由 编辑
      #6

      提升下语文的阅读理解。
      这句话开头:小白想搭家庭AI。已经说明他需要组建一个本地算力。
      之后:PVE+局域网+VPN。说明他自己的网络规划而已。
      结尾:一张显卡还是两张? 对开头的提问。

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      Dady PanD 1 条回复 最后回复
      0
      • BunseiB Bunsei

        如果是为了本地模型推理,那么建议你2*R9700,可以支持3路可用并发(不过需要自行编写vLLM的调度脚本,控制每路并发的预填充速度分配)。如果你是为了玩ComfyUI,搞生视频、生图那么基本最性价比的选择就是4090 48G魔改版。

        GeekyangG
        GeekyangG
        Geekyang
        已封禁
        编写于 最后由 编辑
        #7

        @Bunsei 说:

        R9700

        R9700不可以comfyUI? 求咨询?

        williamlouisW 1 条回复 最后回复
        0
        • XiaoteX
          XiaoteX
          Xiaote
          编写于 最后由 编辑
          #8

          PVE + 局域网 + VPN 的思路没问题,是很标准的家庭 AI 底座。几点补充:

          • 先分清需求:只是模型推理 + 文件整理,单卡就够。PVE 里把整张卡直通给一个推理 VM(vfio-pci + IOMMU),消费级卡不能 SR-IOV 切分,别指望一卡多 VM。
          • 什么时候上两张:你同时想跑一个带桌面/游戏的直通 VM + 一个常驻推理 VM,或长期多并发,两张才划算。否则单卡开局、主板和电源预留第二个 x8 槽 / 第二路 8pin 更省钱。
          • 群晖本身不给第三方 GPU,硬解用它自己的核显就够;文件整理走 SMB/NFS 挂给推理 VM,不用为它配显卡。
          • 网络:公网访问别直接暴露,用 WireGuard/Tailscale 组网,推理服务只监听内网/VPN 段。
          • 顺序:先把 PVE、IOMMU 直通、存储挂载跑通,再按需加卡;模型服务(llama.cpp/vLLM)跑通后再谈多路并发调度。

          老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~直接私信我会被封号~

          1 条回复 最后回复
          0
          • williamlouisW williamlouis

            提升下语文的阅读理解。
            这句话开头:小白想搭家庭AI。已经说明他需要组建一个本地算力。
            之后:PVE+局域网+VPN。说明他自己的网络规划而已。
            结尾:一张显卡还是两张? 对开头的提问。

            Dady PanD
            Dady PanD
            Dady Pan
            编写于 最后由 编辑
            #9

            @williamlouis 对对对 到处都是这样的高手 所以不爱发言

            Magic629M 1 条回复 最后回复
            0
            • GeekyangG Geekyang

              @Bunsei 说:

              R9700

              R9700不可以comfyUI? 求咨询?

              williamlouisW
              williamlouisW
              williamlouis
              超级版主
              编写于 最后由 编辑
              #10

              @Geekyang B站 机智罗 整合包 可以 comfy ui

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              GeekyangG 1 条回复 最后回复
              0
              • williamlouisW williamlouis

                新手我建议单卡开局是最稳妥的。
                R9700 或 4090 48G京东自营 都可以。看启动资金了。
                可以预留先上个支持双卡的主板。

                Magic629M
                Magic629M
                Magic629
                德高望重
                编写于 最后由 编辑
                #11

                @williamlouis 好的,谢谢。

                1 条回复 最后回复
                0
                • Dady PanD Dady Pan

                  @williamlouis 对对对 到处都是这样的高手 所以不爱发言

                  Magic629M
                  Magic629M
                  Magic629
                  德高望重
                  编写于 最后由 编辑
                  #12

                  @Dady-Pan 谢谢。

                  1 条回复 最后回复
                  0
                  • williamlouisW williamlouis

                    @Geekyang B站 机智罗 整合包 可以 comfy ui

                    GeekyangG
                    GeekyangG
                    Geekyang
                    已封禁
                    编写于 最后由 编辑
                    #13

                    @williamlouis 我是在linux 下用的,生视频、生图R9700不是默认也可以吗?

                    williamlouisW 1 条回复 最后回复
                    0
                    • GeekyangG Geekyang

                      @williamlouis 我是在linux 下用的,生视频、生图R9700不是默认也可以吗?

                      williamlouisW
                      williamlouisW
                      williamlouis
                      超级版主
                      编写于 最后由 编辑
                      #14

                      @Geekyang 当然可以。机智罗 适合新手

                      个人主页:xlkj.org Telegram https://t.me/xlkjorg

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组