跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. AI硬件
  4. 震惊!萌新从0开始酣战4天,被Hermes和豆包连续坑害6小时原因竟是……

震惊!萌新从0开始酣战4天,被Hermes和豆包连续坑害6小时原因竟是……

已定时 已固定 已锁定 已移动 AI硬件
豆包hermes
17 帖子 8 发布者 409 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • S 离线
    S 离线
    stxpnet
    技术大牛 劳动模范
    编写于 最后由 编辑
    #8

    跑qwen 9b,大概开 96K或64K上下文,说不定有惊喜,入门一下还可以。 玩本地LLM , 速度,上下文,质量 三者难以平衡。这时就不得不惊叹皮衣黄的惊准刀法了。

    贩 1 条回复 最后回复
    0
    • H 离线
      H 离线
      harry820
      编写于 最后由 编辑
      #9

      我使用的和楼主差不多的配置:
      CPU:E5-2673V3
      主板:昂讯X99XD3
      内存:DDR3 1866 32G*4
      显卡:2080TI 22G
      系统:UBUNTU 26.04
      显卡驱动:Driver Version: 595.84 CUDA Version: 13.2
      COMFYUI:0.27.0
      Pytorch Version:2.11.0+cu130
      使用B站@梦影Erislia的LTX2.3视频导演台2.0工作流能正常出视频,内存根据时长会明显提升占用,128G内存是有用的,LTX2.3关键是使用Q4量化的模型就能正常使用2080TI 22G运行了

      1 条回复 最后回复
      0
      • H 离线
        H 离线
        harry820
        编写于 最后由 编辑
        #10

        我系统安装的cuda版本是12.4,llama.cpp 官方版本使用这个cuda版本进行编译安装是能正常运行的,我日常是使用llama.cpp运行qwen 3.5 9b q8模型给openclaw做图像识别使用,openclaw就部署在这台主机上,主模型使用minimax m3,平日让openclaw自己使用comfyui的anima模型去画图还是不错的,画完图也能自动调用qwen 3.5 9b图像分析效果然后再调整提示词,这套平台作为练手用我认为还是可以的

        贩 1 条回复 最后回复
        0
        • 贩 贩桃者

          [狗头]我承认我标题党了,但是6个小时的糟糕经历是真的

          硬件总览(全套二手,合计 4515 元)

          CPU:E5 2666V3
          主板:昂讯x99
          内存:128G DDR3
          显卡:2080Ti 22G(豆包说3080拆GPU焊接翻车概率大,2080ti只焊显存翻车概率小)
          电源:650w 铜牌
          硬盘:三星 500g + 东芝2t

          一、机器实测效果

          1. 大语言模型(均为 Q4KP 量化)
          • QWEN3.6 27B:生成速度 25token/s
          • QWEN3.6 35B A3B:生成速度 60token/s
            目前未做任何性能优化,论坛同配置玩家反馈优化后推理速度可直接翻倍。
          1. AI 绘图(ComfyUI)
            可流畅运行 Flux2、Z image Turbo,Flux2 主要用来做漫画生图;
            性能提升十分直观:旧设备出图需 300 秒,这台机器仅 30 秒就能完成。
          2. 视频模型两大痛点
          • Wan2.2:能够正常启动,但生成画面全部崩坏,无法正常使用;
          • LTX2.3:程序一打开就直接爆显存,完全跑不起来。
            论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型,我把对方分享的完整工作流交给 Hermes 调试,显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化,也欢迎大佬分享相关教程链接指点我。

          二、通宵 6 小时致命大坑:llama cpp server 仅能 CPU 运行,GPU 完全不参与运算

          这一步直接折腾我一整晚,全程豆包、Hermes 轮番给出调试方案,来回试错浪费大量时间:

          1. Hermes 负责修改系统内核、编译显卡相关驱动组件;
          2. 豆包给出的方案是降级老旧显卡驱动,结果显卡风扇全程满速运转,噪音极大。

          两套思路反复调试均无效,我想起之前用 Ollama 跑 9B 模型体验很顺畅,于是让 Hermes 安装 Ollama 环境:升级至最新显卡驱动、搭配 CUDA12.1,Hermes 自动调整配置文件,短短 5 分钟就正常运行,所有问题一次性解决。

          三、实操避坑小贴士

          1. 使用 Hermes 操作服务器时,所有删除指令必须让它先向我确认再执行,把这句话让他写到记忆里,它经常忘记提醒,极易误删重要文件;
          2. 访问[hf-mirror.com]打不开时,备用镜像地址:[hf-cdn.sufy.com]下载速度稳定;
          3. 系统安装 & 模型下载全程参考豆包给出的指引:
            显卡还没到货时,按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统,豆包称无头桌面环境可节省 500MB 显存;
            初期用 aria2c 下载模型,支持断电续传,但缺点是看不到实时下载进度,使用体验较差;
            之后搭建 Linux 本地共享文件夹,改用 Free Download Manager 下载,操作直观很多;
            这里踩了严重的共享故障坑:笔记本无法访问 Linux 共享目录,Hermes 和豆包先后调试后直接把共享服务弄崩,彻底无法访问,好在我提前备份了配置文件,保住了整套运行环境。

          四、当下现存待解决难题

          1. 网络工具:代理延迟长期维持在 2000 左右,急需稳定低延迟的工具;
          2. 硬件资源浪费:128G 大容量内存日常占用从未超过 20%,不清楚该如何充分利用内存提升 AI 运行效率;
          3. 长期发展规划:暂时没有明确方向,想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。

          五、购机心路:放弃豆包推荐的万元全新 AMD 配置,转而入手二手 X99 套装

          豆包最初给我规划的全新整机方案(总价约 13000 元)

          • CPU:5600X
          • 主板:B550
          • 内存:64G D4
          • 硬盘:1T 固态 + 3T 机械硬盘
          • 显卡:蓝宝石 7900XTX 24G
          • 电源:1000W 金牌全模组
            豆包推荐这套配置的核心理由:单核性能强劲、多线程负载充足,AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术,减少内存交换,缓解显存压力。

          下单前临时改主意,转战二手平台

          准备付款前我反复权衡:一次性投入一万多购置新机,学习 AI 相关技术后能不能回本、产生收益?出于成本顾虑直接放弃全新 AMD 方案,开始挑选二手 X99 整机。

          1. 最初看中搭配:E5 2686V4 + 华南 X99 主板;
          2. 听论坛锤哥建议更换 CPU 为 E5 2666V3,主板再听从豆包推荐选择昂讯 X99:
            豆包对比两款主板参数:昂讯 8 层 PCB 仅 180 元,华南 4 层 PCB 却要 330 元,性价比差距明显,当即敲定这套组合。

          装机流程复盘

          显卡延后发货,我提前跟着豆包的教程装好无头 Ubuntu 系统,ComfyUI 绘图部署全程顺利;
          唯独视频模型、llama cpp server 两大环节接连踩坑,豆包和 Hermes 不断给出调试方案反复试错,走了无数弯路,最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。


          全文总结

          1. 性价比优势突出:4500 元二手 X99+2080Ti 22G 组合,就能流畅运行几十 B 参数大模型、Flux 漫画生图,出图速度远超普通家用主机,预算有限的 AI 入门玩家可以直接参考这套低成本方案;
          2. 踩坑核心经验:llama cpp server 对老旧显卡兼容性很差,新手没必要硬调,优先选择 Ollama 部署大模型能大幅降低调试成本;Ubuntu 无头系统是豆包推荐的显存优化方案,但本地文件共享功能极易崩溃,所有配置文件务必备份;调试过程中豆包、Hermes 给出的方案各有优劣,部分老旧驱动方案反而会衍生出新故障;
          3. 现存待优化问题:Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;
          4. 后续规划目标:学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具,同时调研各类 AI 变现赛道,让这台低成本 AI 主机产生实际收益。
          imbiplaza ASUSI 离线
          imbiplaza ASUSI 离线
          imbiplaza ASUS
          超凡大师
          编写于 最后由 编辑
          #11

          @贩桃者

          试一试我的启动:
          --user-directory "c:\comfyui\user" --disable-dynamic-vram --cache-none --listen 0.0.0.0 --cuda-device 0

          尤其是--disable-dynamic-vram

          还记得的5月初更新最新comfyui ,只要没有加上--disable-dynamic-vram,一定会oom

          现在就不懂了,我的是stability matrix 启动comfyui v24.0,

          在stability matrix 里可以通过live console 看到comfyui卡在什么地方,

          再通过gemini去解决。。。

          1 条回复 最后回复
          1
          • terryT terry

            @贩桃者 2080Ti是工业垃圾,现在入手相当于49年加入国军。2080Ti的质保应该是指店保,和厕纸一样没什么价值。你碰到的那些问题很难修复,架构太老,你但凡多看看硬件区的帖子,都应该知道,它只在少数情况下有效。

            你目前缺的不是一张卡,而是基本认知。比如Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;1T内存也是一样的效果。如果要载入内存缓存,DDR3不够,你的X99 CPU性能也够呛。如果显存够,你不需要128G内存。这些基本原理其他帖子里都有讲解。

            贩 离线
            贩 离线
            贩桃者
            编写于 最后由 编辑
            #12

            @terry 怪不得hermes给我ip地址都给我写49[无奈] 先学着弄弄看吧,以后有条件再升级,感谢锤哥指点

            我承认都是钱包惹的祸
            微薄的薪水实在不够活
            偏偏各样账单接踵掠过
            再省也很窘迫

            1 条回复 最后回复
            0
            • S stxpnet

              跑qwen 9b,大概开 96K或64K上下文,说不定有惊喜,入门一下还可以。 玩本地LLM , 速度,上下文,质量 三者难以平衡。这时就不得不惊叹皮衣黄的惊准刀法了。

              贩 离线
              贩 离线
              贩桃者
              编写于 最后由 编辑
              #13

              @stxpnet 我等着试试这个9b ,可能我不太会写提示词,写的很短,25token到也不用等太久

              1 条回复 最后回复
              0
              • H harry820

                我系统安装的cuda版本是12.4,llama.cpp 官方版本使用这个cuda版本进行编译安装是能正常运行的,我日常是使用llama.cpp运行qwen 3.5 9b q8模型给openclaw做图像识别使用,openclaw就部署在这台主机上,主模型使用minimax m3,平日让openclaw自己使用comfyui的anima模型去画图还是不错的,画完图也能自动调用qwen 3.5 9b图像分析效果然后再调整提示词,这套平台作为练手用我认为还是可以的

                贩 离线
                贩 离线
                贩桃者
                编写于 最后由 编辑
                #14

                @harry820 好的哥,我去b站看一下怎么个事,超个作业,太感谢啦。还可以反过来分析图片,这个我之前都没接触过哇,我试试去。我觉得我们的三大件可能是在一家店买的

                1 条回复 最后回复
                1
                • 贩 贩桃者

                  [狗头]我承认我标题党了,但是6个小时的糟糕经历是真的

                  硬件总览(全套二手,合计 4515 元)

                  CPU:E5 2666V3
                  主板:昂讯x99
                  内存:128G DDR3
                  显卡:2080Ti 22G(豆包说3080拆GPU焊接翻车概率大,2080ti只焊显存翻车概率小)
                  电源:650w 铜牌
                  硬盘:三星 500g + 东芝2t

                  一、机器实测效果

                  1. 大语言模型(均为 Q4KP 量化)
                  • QWEN3.6 27B:生成速度 25token/s
                  • QWEN3.6 35B A3B:生成速度 60token/s
                    目前未做任何性能优化,论坛同配置玩家反馈优化后推理速度可直接翻倍。
                  1. AI 绘图(ComfyUI)
                    可流畅运行 Flux2、Z image Turbo,Flux2 主要用来做漫画生图;
                    性能提升十分直观:旧设备出图需 300 秒,这台机器仅 30 秒就能完成。
                  2. 视频模型两大痛点
                  • Wan2.2:能够正常启动,但生成画面全部崩坏,无法正常使用;
                  • LTX2.3:程序一打开就直接爆显存,完全跑不起来。
                    论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型,我把对方分享的完整工作流交给 Hermes 调试,显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化,也欢迎大佬分享相关教程链接指点我。

                  二、通宵 6 小时致命大坑:llama cpp server 仅能 CPU 运行,GPU 完全不参与运算

                  这一步直接折腾我一整晚,全程豆包、Hermes 轮番给出调试方案,来回试错浪费大量时间:

                  1. Hermes 负责修改系统内核、编译显卡相关驱动组件;
                  2. 豆包给出的方案是降级老旧显卡驱动,结果显卡风扇全程满速运转,噪音极大。

                  两套思路反复调试均无效,我想起之前用 Ollama 跑 9B 模型体验很顺畅,于是让 Hermes 安装 Ollama 环境:升级至最新显卡驱动、搭配 CUDA12.1,Hermes 自动调整配置文件,短短 5 分钟就正常运行,所有问题一次性解决。

                  三、实操避坑小贴士

                  1. 使用 Hermes 操作服务器时,所有删除指令必须让它先向我确认再执行,把这句话让他写到记忆里,它经常忘记提醒,极易误删重要文件;
                  2. 访问[hf-mirror.com]打不开时,备用镜像地址:[hf-cdn.sufy.com]下载速度稳定;
                  3. 系统安装 & 模型下载全程参考豆包给出的指引:
                    显卡还没到货时,按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统,豆包称无头桌面环境可节省 500MB 显存;
                    初期用 aria2c 下载模型,支持断电续传,但缺点是看不到实时下载进度,使用体验较差;
                    之后搭建 Linux 本地共享文件夹,改用 Free Download Manager 下载,操作直观很多;
                    这里踩了严重的共享故障坑:笔记本无法访问 Linux 共享目录,Hermes 和豆包先后调试后直接把共享服务弄崩,彻底无法访问,好在我提前备份了配置文件,保住了整套运行环境。

                  四、当下现存待解决难题

                  1. 网络工具:代理延迟长期维持在 2000 左右,急需稳定低延迟的工具;
                  2. 硬件资源浪费:128G 大容量内存日常占用从未超过 20%,不清楚该如何充分利用内存提升 AI 运行效率;
                  3. 长期发展规划:暂时没有明确方向,想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。

                  五、购机心路:放弃豆包推荐的万元全新 AMD 配置,转而入手二手 X99 套装

                  豆包最初给我规划的全新整机方案(总价约 13000 元)

                  • CPU:5600X
                  • 主板:B550
                  • 内存:64G D4
                  • 硬盘:1T 固态 + 3T 机械硬盘
                  • 显卡:蓝宝石 7900XTX 24G
                  • 电源:1000W 金牌全模组
                    豆包推荐这套配置的核心理由:单核性能强劲、多线程负载充足,AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术,减少内存交换,缓解显存压力。

                  下单前临时改主意,转战二手平台

                  准备付款前我反复权衡:一次性投入一万多购置新机,学习 AI 相关技术后能不能回本、产生收益?出于成本顾虑直接放弃全新 AMD 方案,开始挑选二手 X99 整机。

                  1. 最初看中搭配:E5 2686V4 + 华南 X99 主板;
                  2. 听论坛锤哥建议更换 CPU 为 E5 2666V3,主板再听从豆包推荐选择昂讯 X99:
                    豆包对比两款主板参数:昂讯 8 层 PCB 仅 180 元,华南 4 层 PCB 却要 330 元,性价比差距明显,当即敲定这套组合。

                  装机流程复盘

                  显卡延后发货,我提前跟着豆包的教程装好无头 Ubuntu 系统,ComfyUI 绘图部署全程顺利;
                  唯独视频模型、llama cpp server 两大环节接连踩坑,豆包和 Hermes 不断给出调试方案反复试错,走了无数弯路,最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。


                  全文总结

                  1. 性价比优势突出:4500 元二手 X99+2080Ti 22G 组合,就能流畅运行几十 B 参数大模型、Flux 漫画生图,出图速度远超普通家用主机,预算有限的 AI 入门玩家可以直接参考这套低成本方案;
                  2. 踩坑核心经验:llama cpp server 对老旧显卡兼容性很差,新手没必要硬调,优先选择 Ollama 部署大模型能大幅降低调试成本;Ubuntu 无头系统是豆包推荐的显存优化方案,但本地文件共享功能极易崩溃,所有配置文件务必备份;调试过程中豆包、Hermes 给出的方案各有优劣,部分老旧驱动方案反而会衍生出新故障;
                  3. 现存待优化问题:Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动;128G 大容量内存利用率极低;
                  4. 后续规划目标:学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具,同时调研各类 AI 变现赛道,让这台低成本 AI 主机产生实际收益。
                  imbiplaza ASUSI 离线
                  imbiplaza ASUSI 离线
                  imbiplaza ASUS
                  超凡大师
                  编写于 最后由 编辑
                  #15

                  @贩桃者 Screenshot 2026-07-27 140956.png

                  关于ltx2.3, 先跑通了官方模板再说。。。别一来就直接套用网上的任何workflow

                  贩 1 条回复 最后回复
                  1
                  • imbiplaza ASUSI imbiplaza ASUS

                    @贩桃者 Screenshot 2026-07-27 140956.png

                    关于ltx2.3, 先跑通了官方模板再说。。。别一来就直接套用网上的任何workflow

                    贩 离线
                    贩 离线
                    贩桃者
                    编写于 最后由 编辑
                    #16

                    @imbiplaza-ASUS 就是这个爆了,应该是我显存不够,我记得锤哥说过最低就是24g,不容易出问题

                    imbiplaza ASUSI 1 条回复 最后回复
                    0
                    • 贩 贩桃者

                      @imbiplaza-ASUS 就是这个爆了,应该是我显存不够,我记得锤哥说过最低就是24g,不容易出问题

                      imbiplaza ASUSI 离线
                      imbiplaza ASUSI 离线
                      imbiplaza ASUS
                      超凡大师
                      编写于 最后由 编辑
                      #17

                      @贩桃者 先用这个,

                      --disable-dynamic-vram --cache-none

                      1 条回复 最后回复
                      1

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组