跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 求助:年底回国想在家放一台跑本地模型的机器,家里只有老母亲、坏了没人会修,有没有基本不用折腾的方案?

求助:年底回国想在家放一台跑本地模型的机器,家里只有老母亲、坏了没人会修,有没有基本不用折腾的方案?

已定时 已固定 已锁定 已移动 热议 AI硬件
本地模型服务器
27 帖子 12 发布者 643 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • ralfzhuR
    ralfzhuR
    ralfzhu
    硕果累累 贵族大夫
    编写于 最后由 编辑
    #16

    提醒你一下嗷,中国大多数宽带都没有公网IP咯,你要远程调用token,可是需要花点脑子的,可以考虑租个VPS当中转。

    ゆうみんゆ stxpnetS 2 条回复 最后回复
    0
    • terryT terry

      赶紧找 @bunsei 问问他的卡还卖不卖。主机随便都行,卡关键。他有AI Pro R9700,主机洋垃圾就行。

      ゆうみんゆ
      ゆうみんゆ
      ゆうみん
      体面乡绅 硕果累累
      编写于 最后由 编辑
      #17

      @terry 哈哈 好的 我去我问问

      youtube.com/channel/UCN2nQbk-8CJXHNMr4yWNt9Q/
      www.youtube.com/@AIdopagaki

      1 条回复 最后回复
      0
      • ralfzhuR ralfzhu

        提醒你一下嗷,中国大多数宽带都没有公网IP咯,你要远程调用token,可是需要花点脑子的,可以考虑租个VPS当中转。

        ゆうみんゆ
        ゆうみんゆ
        ゆうみん
        体面乡绅 硕果累累
        编写于 最后由 编辑
        #18

        @ralfzhu 感谢提醒。我感觉还是回去搞下配件 带回日本组装,这样的可行性最大。

        youtube.com/channel/UCN2nQbk-8CJXHNMr4yWNt9Q/
        www.youtube.com/@AIdopagaki

        1 条回复 最后回复
        0
        • ゆうみんゆ ゆうみん

          各位大神好,我是 ゆうみん(Yumin),平时做 AI 视频,主要在本地用 MiniMax H3 出片。

          起因
          写脚本、改代码这些活主要靠 Claude,最近 Claude 每周的 Token 经常不够用,所以想在本地跑一个模型,不限量地用。

          情况

          • 我人在日本,年底回国,想在国内家里放一台专门跑本地模型的机器,回日本以后远程用
          • 家里只有老母亲一个人,机器坏了她不会折腾,也不会修
          • 原本群里推荐 R9700 32G+DDR3 凑 128G,但担心太折腾

          想请教

          1. 有没有基本不用折腾的机器?(整机、迷你主机、品牌工作站之类都可以)
          2. 这种情况大家会怎么配?大概能跑多大的模型、多少 tok/s?

          如果有能参考的整机清单(带价格)就更好了,先谢谢各位!

          stxpnetS
          stxpnetS
          stxpnet
          至尊皇帝
          编写于 最后由 编辑
          #19

          @ゆうみん 说:

          各位大神好,我是 ゆうみん(Yumin),平时做 AI 视频,主要在本地用 MiniMax H3 出片。

          起因
          写脚本、改代码这些活主要靠 Claude,最近 Claude 每周的 Token 经常不够用,所以想在本地跑一个模型,不限量地用。

          情况

          • 我人在日本,年底回国,想在国内家里放一台专门跑本地模型的机器,回日本以后远程用
          • 家里只有老母亲一个人,机器坏了她不会折腾,也不会修
          • 原本群里推荐 R9700 32G+DDR3 凑 128G,但担心太折腾

          想请教

          1. 有没有基本不用折腾的机器?(整机、迷你主机、品牌工作站之类都可以)
          2. 这种情况大家会怎么配?大概能跑多大的模型、多少 tok/s?

          如果有能参考的整机清单(带价格)就更好了,先谢谢各位!

          全站发贴找一个和你近的坛友,直接把机器放他家得了。 或者是在你家弄好,实在出问题的时候让坛友去你家帮你维护。

          双卡3090 PCIE 4.0 16X/16X

          白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
          夜间(将军) Qengine 27B INT4-W4 FP8- MTP 7 262K X 2 ~120 t/s
          ゆうみんゆ 1 条回复 最后回复
          0
          • ralfzhuR ralfzhu

            提醒你一下嗷,中国大多数宽带都没有公网IP咯,你要远程调用token,可是需要花点脑子的,可以考虑租个VPS当中转。

            stxpnetS
            stxpnetS
            stxpnet
            至尊皇帝
            编写于 最后由 编辑
            #20

            @ralfzhu 说:

            提醒你一下嗷,中国大多数宽带都没有公网IP咯,你要远程调用token,可是需要花点脑子的,可以考虑租个VPS当中转。

            这个简单,tailscale搞掂啊。我觉得大多数都有公网IP V6啊,挂个支持V6的DDNS就行了。

            双卡3090 PCIE 4.0 16X/16X

            白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
            夜间(将军) Qengine 27B INT4-W4 FP8- MTP 7 262K X 2 ~120 t/s
            1 条回复 最后回复
            2
            • stxpnetS stxpnet

              @ゆうみん 说:

              各位大神好,我是 ゆうみん(Yumin),平时做 AI 视频,主要在本地用 MiniMax H3 出片。

              起因
              写脚本、改代码这些活主要靠 Claude,最近 Claude 每周的 Token 经常不够用,所以想在本地跑一个模型,不限量地用。

              情况

              • 我人在日本,年底回国,想在国内家里放一台专门跑本地模型的机器,回日本以后远程用
              • 家里只有老母亲一个人,机器坏了她不会折腾,也不会修
              • 原本群里推荐 R9700 32G+DDR3 凑 128G,但担心太折腾

              想请教

              1. 有没有基本不用折腾的机器?(整机、迷你主机、品牌工作站之类都可以)
              2. 这种情况大家会怎么配?大概能跑多大的模型、多少 tok/s?

              如果有能参考的整机清单(带价格)就更好了,先谢谢各位!

              全站发贴找一个和你近的坛友,直接把机器放他家得了。 或者是在你家弄好,实在出问题的时候让坛友去你家帮你维护。

              ゆうみんゆ
              ゆうみんゆ
              ゆうみん
              体面乡绅 硕果累累
              编写于 最后由 编辑
              #21

              @stxpnet 确实有道理啊!我想想怎么搞!

              youtube.com/channel/UCN2nQbk-8CJXHNMr4yWNt9Q/
              www.youtube.com/@AIdopagaki

              1 条回复 最后回复
              0
              • 好米玉好
                好米玉好
                好米玉
                编写于 最后由 编辑
                #22

                就一起帶去日本呀 不然就是看看有沒有附近認識懂電腦的親戚了 偶爾麻煩他

                1 条回复 最后回复
                0
                • perterP
                  perterP
                  perter
                  王侯将相
                  编写于 最后由 编辑
                  #23

                  如果只是流量不够,完全沒有必要再配一台电脑,一个月电费比流量费还贵,花3000日元再开一个GPTplus就可以了。

                  1 条回复 最后回复
                  0
                  • XiaoteX
                    XiaoteX
                    Xiaote
                    易有太极
                    编写于 最后由 编辑
                    #24

                    🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

                    奖励凭证:热议 +3 分 · 编号 h3124-4790-1

                    老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                    1 条回复 最后回复
                    0
                    • stxpnetS
                      stxpnetS
                      stxpnet
                      至尊皇帝
                      编写于 最后由 编辑
                      #25

                      看漏 了,如果有CLUADE,真的不太建议,反正我现在觉得双3090跑的QFN3.8,还不如 DEEPSEEK FLASH1017,现在这个本地模型我真想关机卖显卡了. 电费换API都可以换PRO ,我一个月还用不完.

                      双卡3090 PCIE 4.0 16X/16X

                      白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                      夜间(将军) Qengine 27B INT4-W4 FP8- MTP 7 262K X 2 ~120 t/s
                      1 条回复 最后回复
                      0
                      • rock shiR
                        rock shiR
                        rock shi
                        体面乡绅 硕果累累
                        编写于 最后由 编辑
                        #26

                        说实话mac应该最省心,但是如果遇到重大版本更新也很难受。得最起码会让老太太输密码开机

                        主机:GPU0-3080 20g(H3),GPU1-3080 20g(Zimage)
                        副机:2x2080ti 22g,strata qwen3.8 next Flash iq3_s

                        1 条回复 最后回复
                        0
                        • Michael ZHANGM
                          Michael ZHANGM
                          Michael ZHANG
                          硕果累累 体面乡绅
                          编写于 最后由 编辑
                          #27

                          如果一定要放在国内,方案如下:搞一个带主板带BMC远程管理的服务器或工作站主机,可以远程开机和关机,远程装系统。一次设置好以后,几乎不需要人现场维护,只要有电和网络就行了。
                          系统选择:安装一个Ubuntu/Debian系统,更新起来也很简单,设置好来电自动启动,临时停电了也不是问题。如果来电启动不起作用,还可以通过BMC带的ipmi管理端口手动开机也很方便。
                          远程连接:最好在HK或JP租VPS中转,比较有网速保证,但是这个方案有点小复杂,但是问问AI如何设置就搞定了。
                          IPv6直连:方案可以直连,但是这个方案要当地运营商,路由器,以及你在JP的电脑都支持IPv6才行,如果中间有一个环节不支持IPv6,网络都连不通。
                          硬件维护:首先要在电脑里安装两个硬盘,一个系统盘,一个备份盘,做好系统和文件备份,以防硬盘坏了,资料丢了比较麻烦。由于可以远程装系统,如果资料不重要,也可以只安装一个硬盘。其他硬件坏了,你去京东买配件邮回家,顺便买一个京东上门安装的服务,帮你把坏的硬件换了就OK。

                          P.S.这个方案不如直接买大模型公司的Token plan或者通过openrouter来调用deepseek,智普等公司的api划算和方便,除非是很重视本地隐私和安全。

                          1 条回复 最后回复
                          0

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组