跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 震惊!萌新从0开始酣战4天,被Hermes和豆包连续坑害6小时原因竟是……

震惊!萌新从0开始酣战4天,被Hermes和豆包连续坑害6小时原因竟是……

已定时 已固定 已锁定 已移动 AI硬件
14 帖子 8 发布者 105 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • S 离线
    S 离线
    stxpnet
    技术大牛 劳动模范
    编写于 最后由 编辑
    #5

    扩容显卡,感觉 也只能跑MOE。长上下文至少要跑完80%的长度,不掉速不出错,才算合格。

    1 条回复 最后回复
    0
    • 贩 贩桃者

      [狗头]我承认我标题党了,但是6个小时的糟糕经历是真的

      硬件总览(全套二手,合计 4515 元)

      CPU:E5 2666V3
      主板:昂讯x99
      内存:128G DDR3
      显卡:2080Ti 22G(豆包说3080拆GPU焊接翻车概率大,2080ti只焊显存翻车概率小)
      电源:650w 铜牌
      硬盘:三星 500g + 东芝2t

      一、机器实测效果

      1. 大语言模型(均为 Q4KP 量化)
      • QWEN3.6 27B:生成速度 25token/s
      • QWEN3.6 35B A3B:生成速度 60token/s
        目前未做任何性能优化,论坛同配置玩家反馈优化后推理速度可直接翻倍。
      1. AI 绘图(ComfyUI)
        可流畅运行 Flux2、Z image Turbo,Flux2 主要用来做漫画生图;
        性能提升十分直观:旧设备出图需 300 秒,这台机器仅 30 秒就能完成。
      2. 视频模型两大痛点
      • Wan2.2:能够正常启动,但生成画面全部崩坏,无法正常使用;
      • LTX2.3:程序一打开就直接爆显存,完全跑不起来。
        论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型,我把对方分享的完整工作流交给 Hermes 调试,显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化,也欢迎大佬分享相关教程链接指点我。

      二、通宵 6 小时致命大坑:llama cpp server 仅能 CPU 运行,GPU 完全不参与运算

      这一步直接折腾我一整晚,全程豆包、Hermes 轮番给出调试方案,来回试错浪费大量时间:

      1. Hermes 负责修改系统内核、编译显卡相关驱动组件;
      2. 豆包给出的方案是降级老旧显卡驱动,结果显卡风扇全程满速运转,噪音极大。

      两套思路反复调试均无效,我想起之前用 Ollama 跑 9B 模型体验很顺畅,于是让 Hermes 安装 Ollama 环境:升级至最新显卡驱动、搭配 CUDA12.1,Hermes 自动调整配置文件,短短 5 分钟就正常运行,所有问题一次性解决。

      三、实操避坑小贴士

      1. 使用 Hermes 操作服务器时,所有删除指令必须让它先向我确认再执行,把这句话让他写到记忆里,它经常忘记提醒,极易误删重要文件;
      2. 访问[hf-mirror.com]打不开时,备用镜像地址:[hf-cdn.sufy.com]下载速度稳定;
      3. 系统安装 & 模型下载全程参考豆包给出的指引:
        显卡还没到货时,按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统,豆包称无头桌面环境可节省 500MB 显存;
        初期用 aria2c 下载模型,支持断电续传,但缺点是看不到实时下载进度,使用体验较差;
        之后搭建 Linux 本地共享文件夹,改用 Free Download Manager 下载,操作直观很多;
        这里踩了严重的共享故障坑:笔记本无法访问 Linux 共享目录,Hermes 和豆包先后调试后直接把共享服务弄崩,彻底无法访问,好在我提前备份了配置文件,保住了整套运行环境。

      四、当下现存待解决难题

      1. 网络工具:代理延迟长期维持在 2000 左右,急需稳定低延迟的工具;
      2. 硬件资源浪费:128G 大容量内存日常占用从未超过 20%,不清楚该如何充分利用内存提升 AI 运行效率;
      3. 长期发展规划:暂时没有明确方向,想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。

      五、购机心路:放弃豆包推荐的万元全新 AMD 配置,转而入手二手 X99 套装

      豆包最初给我规划的全新整机方案(总价约 13000 元)

      • CPU:5600X
      • 主板:B550
      • 内存:64G D4
      • 硬盘:1T 固态 + 3T 机械硬盘
      • 显卡:蓝宝石 7900XTX 24G
      • 电源:1000W 金牌全模组
        豆包推荐这套配置的核心理由:单核性能强劲、多线程负载充足,AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术,减少内存交换,缓解显存压力。

      下单前临时改主意,转战二手平台

      准备付款前我反复权衡:一次性投入一万多购置新机,学习 AI 相关技术后能不能回本、产生收益?出于成本顾虑直接放弃全新 AMD 方案,开始挑选二手 X99 整机。

      1. 最初看中搭配:E5 2686V4 + 华南 X99 主板;
      2. 听论坛锤哥建议更换 CPU 为 E5 2666V3,主板再听从豆包推荐选择昂讯 X99:
        豆包对比两款主板参数:昂讯 8 层 PCB 仅 180 元,华南 4 层 PCB 却要 330 元,性价比差距明显,当即敲定这套组合。

      装机流程复盘

      显卡延后发货,我提前跟着豆包的教程装好无头 Ubuntu 系统,ComfyUI 绘图部署全程顺利;
      唯独视频模型、llama cpp server 两大环节接连踩坑,豆包和 Hermes 不断给出调试方案反复试错,走了无数弯路,最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。


      全文总结

      1. 性价比优势突出:4500 元二手 X99+2080Ti 22G 组合,就能流畅运行几十 B 参数大模型、Flux 漫画生图,出图速度远超普通家用主机,预算有限的 AI 入门玩家可以直接参考这套低成本方案;
      2. 踩坑核心经验:llama cpp server 对老旧显卡兼容性很差,新手没必要硬调,优先选择 Ollama 部署大模型能大幅降低调试成本;Ubuntu 无头系统是豆包推荐的显存优化方案,但本地文件共享功能极易崩溃,所有配置文件务必备份;调试过程中豆包、Hermes 给出的方案各有优劣,部分老旧驱动方案反而会衍生出新故障;
      3. 现存待优化问题:Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;
      4. 后续规划目标:学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具,同时调研各类 AI 变现赛道,让这台低成本 AI 主机产生实际收益。
      kos orK 离线
      kos orK 离线
      kos or
      技术大牛 劳动模范
      编写于 最后由 编辑
      #6

      @贩桃者 said:

      QWEN3.6 27B:生成速度 25token/s
      QWEN3.6 35B A3B:生成速度 60token/s
      目前未做任何性能优化,论坛同配置玩家反馈优化后推理速度可直接翻倍。

      (全套二手,合计 4515 元)

      你這性價比超級高 !!

      1 条回复 最后回复
      0
      • 贩 贩桃者

        @williamlouis 好滴听大佬的,我准备能从ai这里获得收入了再换,毕竟这块卡只要2000块,还有质保1年,我就入手学习了,确实碰到问题,但不知道是不是平台或架构本身老的问题,把机箱前机盖打开温度可以稳定在77,豆包说不超过85一般没事,先跑跑看,有问题再来汇报

        terryT 离线
        terryT 离线
        terry
        超级版主
        编写于 最后由 编辑
        #7

        @贩桃者 2080Ti是工业垃圾,现在入手相当于49年加入国军。2080Ti的质保应该是指店保,和厕纸一样没什么价值。你碰到的那些问题很难修复,架构太老,你但凡多看看硬件区的帖子,都应该知道,它只在少数情况下有效。

        你目前缺的不是一张卡,而是基本认知。比如Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;1T内存也是一样的效果。如果要载入内存缓存,DDR3不够,你的X99 CPU性能也够呛。如果显存够,你不需要128G内存。这些基本原理其他帖子里都有讲解。

        油管:https://www.youtube.com/@抡锤者

        贩 1 条回复 最后回复
        0
        • S 离线
          S 离线
          stxpnet
          技术大牛 劳动模范
          编写于 最后由 编辑
          #8

          跑qwen 9b,大概开 96K或64K上下文,说不定有惊喜,入门一下还可以。 玩本地LLM , 速度,上下文,质量 三者难以平衡。这时就不得不惊叹皮衣黄的惊准刀法了。

          贩 1 条回复 最后回复
          0
          • H 离线
            H 离线
            harry820
            编写于 最后由 编辑
            #9

            我使用的和楼主差不多的配置:
            CPU:E5-2673V3
            主板:昂讯X99XD3
            内存:DDR3 1866 32G*4
            显卡:2080TI 22G
            系统:UBUNTU 26.04
            显卡驱动:Driver Version: 595.84 CUDA Version: 13.2
            COMFYUI:0.27.0
            Pytorch Version:2.11.0+cu130
            使用B站@梦影Erislia的LTX2.3视频导演台2.0工作流能正常出视频,内存根据时长会明显提升占用,128G内存是有用的,LTX2.3关键是使用Q4量化的模型就能正常使用2080TI 22G运行了

            1 条回复 最后回复
            0
            • H 离线
              H 离线
              harry820
              编写于 最后由 编辑
              #10

              我系统安装的cuda版本是12.4,llama.cpp 官方版本使用这个cuda版本进行编译安装是能正常运行的,我日常是使用llama.cpp运行qwen 3.5 9b q8模型给openclaw做图像识别使用,openclaw就部署在这台主机上,主模型使用minimax m3,平日让openclaw自己使用comfyui的anima模型去画图还是不错的,画完图也能自动调用qwen 3.5 9b图像分析效果然后再调整提示词,这套平台作为练手用我认为还是可以的

              贩 1 条回复 最后回复
              0
              • 贩 贩桃者

                [狗头]我承认我标题党了,但是6个小时的糟糕经历是真的

                硬件总览(全套二手,合计 4515 元)

                CPU:E5 2666V3
                主板:昂讯x99
                内存:128G DDR3
                显卡:2080Ti 22G(豆包说3080拆GPU焊接翻车概率大,2080ti只焊显存翻车概率小)
                电源:650w 铜牌
                硬盘:三星 500g + 东芝2t

                一、机器实测效果

                1. 大语言模型(均为 Q4KP 量化)
                • QWEN3.6 27B:生成速度 25token/s
                • QWEN3.6 35B A3B:生成速度 60token/s
                  目前未做任何性能优化,论坛同配置玩家反馈优化后推理速度可直接翻倍。
                1. AI 绘图(ComfyUI)
                  可流畅运行 Flux2、Z image Turbo,Flux2 主要用来做漫画生图;
                  性能提升十分直观:旧设备出图需 300 秒,这台机器仅 30 秒就能完成。
                2. 视频模型两大痛点
                • Wan2.2:能够正常启动,但生成画面全部崩坏,无法正常使用;
                • LTX2.3:程序一打开就直接爆显存,完全跑不起来。
                  论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型,我把对方分享的完整工作流交给 Hermes 调试,显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化,也欢迎大佬分享相关教程链接指点我。

                二、通宵 6 小时致命大坑:llama cpp server 仅能 CPU 运行,GPU 完全不参与运算

                这一步直接折腾我一整晚,全程豆包、Hermes 轮番给出调试方案,来回试错浪费大量时间:

                1. Hermes 负责修改系统内核、编译显卡相关驱动组件;
                2. 豆包给出的方案是降级老旧显卡驱动,结果显卡风扇全程满速运转,噪音极大。

                两套思路反复调试均无效,我想起之前用 Ollama 跑 9B 模型体验很顺畅,于是让 Hermes 安装 Ollama 环境:升级至最新显卡驱动、搭配 CUDA12.1,Hermes 自动调整配置文件,短短 5 分钟就正常运行,所有问题一次性解决。

                三、实操避坑小贴士

                1. 使用 Hermes 操作服务器时,所有删除指令必须让它先向我确认再执行,把这句话让他写到记忆里,它经常忘记提醒,极易误删重要文件;
                2. 访问[hf-mirror.com]打不开时,备用镜像地址:[hf-cdn.sufy.com]下载速度稳定;
                3. 系统安装 & 模型下载全程参考豆包给出的指引:
                  显卡还没到货时,按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统,豆包称无头桌面环境可节省 500MB 显存;
                  初期用 aria2c 下载模型,支持断电续传,但缺点是看不到实时下载进度,使用体验较差;
                  之后搭建 Linux 本地共享文件夹,改用 Free Download Manager 下载,操作直观很多;
                  这里踩了严重的共享故障坑:笔记本无法访问 Linux 共享目录,Hermes 和豆包先后调试后直接把共享服务弄崩,彻底无法访问,好在我提前备份了配置文件,保住了整套运行环境。

                四、当下现存待解决难题

                1. 网络工具:代理延迟长期维持在 2000 左右,急需稳定低延迟的工具;
                2. 硬件资源浪费:128G 大容量内存日常占用从未超过 20%,不清楚该如何充分利用内存提升 AI 运行效率;
                3. 长期发展规划:暂时没有明确方向,想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。

                五、购机心路:放弃豆包推荐的万元全新 AMD 配置,转而入手二手 X99 套装

                豆包最初给我规划的全新整机方案(总价约 13000 元)

                • CPU:5600X
                • 主板:B550
                • 内存:64G D4
                • 硬盘:1T 固态 + 3T 机械硬盘
                • 显卡:蓝宝石 7900XTX 24G
                • 电源:1000W 金牌全模组
                  豆包推荐这套配置的核心理由:单核性能强劲、多线程负载充足,AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术,减少内存交换,缓解显存压力。

                下单前临时改主意,转战二手平台

                准备付款前我反复权衡:一次性投入一万多购置新机,学习 AI 相关技术后能不能回本、产生收益?出于成本顾虑直接放弃全新 AMD 方案,开始挑选二手 X99 整机。

                1. 最初看中搭配:E5 2686V4 + 华南 X99 主板;
                2. 听论坛锤哥建议更换 CPU 为 E5 2666V3,主板再听从豆包推荐选择昂讯 X99:
                  豆包对比两款主板参数:昂讯 8 层 PCB 仅 180 元,华南 4 层 PCB 却要 330 元,性价比差距明显,当即敲定这套组合。

                装机流程复盘

                显卡延后发货,我提前跟着豆包的教程装好无头 Ubuntu 系统,ComfyUI 绘图部署全程顺利;
                唯独视频模型、llama cpp server 两大环节接连踩坑,豆包和 Hermes 不断给出调试方案反复试错,走了无数弯路,最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。


                全文总结

                1. 性价比优势突出:4500 元二手 X99+2080Ti 22G 组合,就能流畅运行几十 B 参数大模型、Flux 漫画生图,出图速度远超普通家用主机,预算有限的 AI 入门玩家可以直接参考这套低成本方案;
                2. 踩坑核心经验:llama cpp server 对老旧显卡兼容性很差,新手没必要硬调,优先选择 Ollama 部署大模型能大幅降低调试成本;Ubuntu 无头系统是豆包推荐的显存优化方案,但本地文件共享功能极易崩溃,所有配置文件务必备份;调试过程中豆包、Hermes 给出的方案各有优劣,部分老旧驱动方案反而会衍生出新故障;
                3. 现存待优化问题:Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;
                4. 后续规划目标:学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具,同时调研各类 AI 变现赛道,让这台低成本 AI 主机产生实际收益。
                imbiplaza ASUSI 离线
                imbiplaza ASUSI 离线
                imbiplaza ASUS
                技术大牛 劳动模范
                编写于 最后由 编辑
                #11

                @贩桃者

                试一试我的启动:
                --user-directory "c:\comfyui\user" --disable-dynamic-vram --cache-none --listen 0.0.0.0 --cuda-device 0

                尤其是--disable-dynamic-vram

                还记得的5月初更新最新comfyui ,只要没有加上--disable-dynamic-vram,一定会oom

                现在就不懂了,我的是stability matrix 启动comfyui v24.0,

                在stability matrix 里可以通过live console 看到comfyui卡在什么地方,

                再通过gemini去解决。。。

                1 条回复 最后回复
                0
                • terryT terry

                  @贩桃者 2080Ti是工业垃圾,现在入手相当于49年加入国军。2080Ti的质保应该是指店保,和厕纸一样没什么价值。你碰到的那些问题很难修复,架构太老,你但凡多看看硬件区的帖子,都应该知道,它只在少数情况下有效。

                  你目前缺的不是一张卡,而是基本认知。比如Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;1T内存也是一样的效果。如果要载入内存缓存,DDR3不够,你的X99 CPU性能也够呛。如果显存够,你不需要128G内存。这些基本原理其他帖子里都有讲解。

                  贩 离线
                  贩 离线
                  贩桃者
                  编写于 最后由 编辑
                  #12

                  @terry 怪不得hermes给我ip地址都给我写49[无奈] 先学着弄弄看吧,以后有条件再升级,感谢锤哥指点

                  我承认都是钱包惹的祸
                  微薄的薪水实在不够活
                  偏偏各样账单接踵掠过
                  再省也很窘迫

                  1 条回复 最后回复
                  0
                  • S stxpnet

                    跑qwen 9b,大概开 96K或64K上下文,说不定有惊喜,入门一下还可以。 玩本地LLM , 速度,上下文,质量 三者难以平衡。这时就不得不惊叹皮衣黄的惊准刀法了。

                    贩 离线
                    贩 离线
                    贩桃者
                    编写于 最后由 编辑
                    #13

                    @stxpnet 我等着试试这个9b ,可能我不太会写提示词,写的很短,25token到也不用等太久

                    1 条回复 最后回复
                    0
                    • H harry820

                      我系统安装的cuda版本是12.4,llama.cpp 官方版本使用这个cuda版本进行编译安装是能正常运行的,我日常是使用llama.cpp运行qwen 3.5 9b q8模型给openclaw做图像识别使用,openclaw就部署在这台主机上,主模型使用minimax m3,平日让openclaw自己使用comfyui的anima模型去画图还是不错的,画完图也能自动调用qwen 3.5 9b图像分析效果然后再调整提示词,这套平台作为练手用我认为还是可以的

                      贩 离线
                      贩 离线
                      贩桃者
                      编写于 最后由 编辑
                      #14

                      @harry820 好的哥,我去b站看一下怎么个事,超个作业,太感谢啦。还可以反过来分析图片,这个我之前都没接触过哇,我试试去。我觉得我们的三大件可能是在一家店买的

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组