<![CDATA[震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是……]]>[狗头]我承认我标题党了，但是6个小时的糟糕经历是真的

硬件总览（全套二手，合计 4515 元）

CPU：E5 2666V3
主板：昂讯x99
内存：128G DDR3
显卡：2080Ti 22G（豆包说3080拆GPU焊接翻车概率大，2080ti只焊显存翻车概率小）
电源：650w 铜牌
硬盘：三星 500g + 东芝2t

一、机器实测效果

  1. 大语言模型（均为 Q4KP 量化）
  • QWEN3.6 27B：生成速度 25token/s
  • QWEN3.6 35B A3B：生成速度 60token/s
    目前未做任何性能优化，论坛同配置玩家反馈优化后推理速度可直接翻倍。
  1. AI 绘图（ComfyUI）
    可流畅运行 Flux2、Z image Turbo，Flux2 主要用来做漫画生图；
    性能提升十分直观：旧设备出图需 300 秒，这台机器仅 30 秒就能完成。
  2. 视频模型两大痛点
  • Wan2.2：能够正常启动，但生成画面全部崩坏，无法正常使用；
  • LTX2.3：程序一打开就直接爆显存，完全跑不起来。
    论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型，我把对方分享的完整工作流交给 Hermes 调试，显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化，也欢迎大佬分享相关教程链接指点我。

二、通宵 6 小时致命大坑：llama cpp server 仅能 CPU 运行，GPU 完全不参与运算

这一步直接折腾我一整晚，全程豆包、Hermes 轮番给出调试方案，来回试错浪费大量时间：

  1. Hermes 负责修改系统内核、编译显卡相关驱动组件；
  2. 豆包给出的方案是降级老旧显卡驱动，结果显卡风扇全程满速运转，噪音极大。

两套思路反复调试均无效，我想起之前用 Ollama 跑 9B 模型体验很顺畅，于是让 Hermes 安装 Ollama 环境：升级至最新显卡驱动、搭配 CUDA12.1，Hermes 自动调整配置文件，短短 5 分钟就正常运行，所有问题一次性解决。

三、实操避坑小贴士

  1. 使用 Hermes 操作服务器时，所有删除指令必须让它先向我确认再执行，把这句话让他写到记忆里，它经常忘记提醒，极易误删重要文件；
  2. 访问[hf-mirror.com]打不开时，备用镜像地址：[hf-cdn.sufy.com]下载速度稳定；
  3. 系统安装 & 模型下载全程参考豆包给出的指引：
    显卡还没到货时，按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统，豆包称无头桌面环境可节省 500MB 显存；
    初期用 aria2c 下载模型，支持断电续传，但缺点是看不到实时下载进度，使用体验较差；
    之后搭建 Linux 本地共享文件夹，改用 Free Download Manager 下载，操作直观很多；
    这里踩了严重的共享故障坑：笔记本无法访问 Linux 共享目录，Hermes 和豆包先后调试后直接把共享服务弄崩，彻底无法访问，好在我提前备份了配置文件，保住了整套运行环境。

四、当下现存待解决难题

  1. 网络工具：代理延迟长期维持在 2000 左右，急需稳定低延迟的工具；
  2. 硬件资源浪费：128G 大容量内存日常占用从未超过 20%，不清楚该如何充分利用内存提升 AI 运行效率；
  3. 长期发展规划：暂时没有明确方向，想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。

五、购机心路：放弃豆包推荐的万元全新 AMD 配置，转而入手二手 X99 套装

豆包最初给我规划的全新整机方案（总价约 13000 元）

  • CPU：5600X
  • 主板：B550
  • 内存：64G D4
  • 硬盘：1T 固态 + 3T 机械硬盘
  • 显卡：蓝宝石 7900XTX 24G
  • 电源：1000W 金牌全模组
    豆包推荐这套配置的核心理由：单核性能强劲、多线程负载充足，AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术，减少内存交换，缓解显存压力。

下单前临时改主意，转战二手平台

准备付款前我反复权衡：一次性投入一万多购置新机，学习 AI 相关技术后能不能回本、产生收益？出于成本顾虑直接放弃全新 AMD 方案，开始挑选二手 X99 整机。

  1. 最初看中搭配：E5 2686V4 + 华南 X99 主板；
  2. 听论坛锤哥建议更换 CPU 为 E5 2666V3，主板再听从豆包推荐选择昂讯 X99：
    豆包对比两款主板参数：昂讯 8 层 PCB 仅 180 元，华南 4 层 PCB 却要 330 元，性价比差距明显，当即敲定这套组合。

装机流程复盘

显卡延后发货，我提前跟着豆包的教程装好无头 Ubuntu 系统，ComfyUI 绘图部署全程顺利；
唯独视频模型、llama cpp server 两大环节接连踩坑，豆包和 Hermes 不断给出调试方案反复试错，走了无数弯路，最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。

全文总结

  1. 性价比优势突出：4500 元二手 X99+2080Ti 22G 组合，就能流畅运行几十 B 参数大模型、Flux 漫画生图，出图速度远超普通家用主机，预算有限的 AI 入门玩家可以直接参考这套低成本方案；
  2. 踩坑核心经验：llama cpp server 对老旧显卡兼容性很差，新手没必要硬调，优先选择 Ollama 部署大模型能大幅降低调试成本；Ubuntu 无头系统是豆包推荐的显存优化方案，但本地文件共享功能极易崩溃，所有配置文件务必备份；调试过程中豆包、Hermes 给出的方案各有优劣，部分老旧驱动方案反而会衍生出新故障；
  3. 现存待优化问题：Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动；128G 大容量内存利用率极低；
  4. 后续规划目标：学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具，同时调研各类 AI 变现赛道，让这台低成本 AI 主机产生实际收益。
]]>https://lcz.me/topic/919/震惊-萌新从0开始酣战4天-被hermes和豆包连续坑害6小时原因竟是RSS for NodeSun, 26 Jul 2026 18:37:47 GMTSat, 25 Jul 2026 08:01:56 GMT60<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 15:43:33 GMT]]>@harry820 好的哥，我去b站看一下怎么个事，超个作业，太感谢啦。还可以反过来分析图片，这个我之前都没接触过哇，我试试去。我觉得我们的三大件可能是在一家店买的

]]>https://lcz.me/post/10615https://lcz.me/post/10615Sun, 26 Jul 2026 15:43:33 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 15:40:17 GMT]]>@stxpnet 我等着试试这个9b ，可能我不太会写提示词，写的很短，25token到也不用等太久

]]>https://lcz.me/post/10613https://lcz.me/post/10613Sun, 26 Jul 2026 15:40:17 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 15:38:13 GMT]]>@terry 怪不得hermes给我ip地址都给我写49[无奈] 先学着弄弄看吧，以后有条件再升级，感谢锤哥指点

我承认都是钱包惹的祸
微薄的薪水实在不够活
偏偏各样账单接踵掠过
再省也很窘迫

]]>https://lcz.me/post/10612https://lcz.me/post/10612Sun, 26 Jul 2026 15:38:13 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 15:26:27 GMT]]>@贩桃者

试一试我的启动：
--user-directory "c:\comfyui\user" --disable-dynamic-vram --cache-none --listen 0.0.0.0 --cuda-device 0

尤其是--disable-dynamic-vram

还记得的5月初更新最新comfyui ，只要没有加上--disable-dynamic-vram，一定会oom

现在就不懂了，我的是stability matrix 启动comfyui v24.0,

在stability matrix 里可以通过live console 看到comfyui卡在什么地方,

再通过gemini去解决。。。

]]>https://lcz.me/post/10611https://lcz.me/post/10611Sun, 26 Jul 2026 15:26:27 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 12:01:52 GMT]]>我系统安装的cuda版本是12.4，llama.cpp 官方版本使用这个cuda版本进行编译安装是能正常运行的，我日常是使用llama.cpp运行qwen 3.5 9b q8模型给openclaw做图像识别使用，openclaw就部署在这台主机上，主模型使用minimax m3，平日让openclaw自己使用comfyui的anima模型去画图还是不错的，画完图也能自动调用qwen 3.5 9b图像分析效果然后再调整提示词，这套平台作为练手用我认为还是可以的

]]>https://lcz.me/post/10597https://lcz.me/post/10597Sun, 26 Jul 2026 12:01:52 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 11:38:02 GMT]]>我使用的和楼主差不多的配置：
CPU：E5-2673V3
主板：昂讯X99XD3
内存：DDR3 1866 32G*4
显卡：2080TI 22G
系统：UBUNTU 26.04
显卡驱动：Driver Version: 595.84 CUDA Version: 13.2
COMFYUI：0.27.0
Pytorch Version：2.11.0+cu130
使用B站@梦影Erislia的LTX2.3视频导演台2.0工作流能正常出视频，内存根据时长会明显提升占用，128G内存是有用的，LTX2.3关键是使用Q4量化的模型就能正常使用2080TI 22G运行了

]]>https://lcz.me/post/10596https://lcz.me/post/10596Sun, 26 Jul 2026 11:38:02 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sun, 26 Jul 2026 11:20:04 GMT]]>跑qwen 9b,大概开 96K或64K上下文，说不定有惊喜，入门一下还可以。 玩本地LLM ， 速度，上下文，质量 三者难以平衡。这时就不得不惊叹皮衣黄的惊准刀法了。

]]>https://lcz.me/post/10594https://lcz.me/post/10594Sun, 26 Jul 2026 11:20:04 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sat, 25 Jul 2026 16:42:38 GMT]]>@贩桃者 2080Ti是工业垃圾，现在入手相当于49年加入国军。2080Ti的质保应该是指店保，和厕纸一样没什么价值。你碰到的那些问题很难修复，架构太老，你但凡多看看硬件区的帖子，都应该知道，它只在少数情况下有效。

你目前缺的不是一张卡，而是基本认知。比如Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动；128G 大容量内存利用率极低；1T内存也是一样的效果。如果要载入内存缓存，DDR3不够，你的X99 CPU性能也够呛。如果显存够，你不需要128G内存。这些基本原理其他帖子里都有讲解。

]]>https://lcz.me/post/10540https://lcz.me/post/10540Sat, 25 Jul 2026 16:42:38 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sat, 25 Jul 2026 15:17:01 GMT]]>

@贩桃者 said:

QWEN3.6 27B：生成速度 25token/s
QWEN3.6 35B A3B：生成速度 60token/s
目前未做任何性能优化，论坛同配置玩家反馈优化后推理速度可直接翻倍。

（全套二手，合计 4515 元）

你這性價比超級高 ！！

]]>https://lcz.me/post/10528https://lcz.me/post/10528Sat, 25 Jul 2026 15:17:01 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sat, 25 Jul 2026 14:57:23 GMT]]>扩容显卡，感觉 也只能跑MOE。长上下文至少要跑完80%的长度，不掉速不出错，才算合格。

]]>https://lcz.me/post/10525https://lcz.me/post/10525Sat, 25 Jul 2026 14:57:23 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sat, 25 Jul 2026 10:11:42 GMT]]>@贩桃者 写得非常详细，新手能踩完这些坑、总结出经验已经很厉害了！针对你剩下的几个问题，我补充一些实操建议：

关于 Wan2.2 生成画面崩坏：这大概率是精度设置的问题。Wan2.2 的 1.3B 版本对 FP16 要求比较严格，如果系统 fallback 到 FP32 或者模型文件不完整就会出现崩坏画面。建议在启动参数里加 --dtype fp16 --upcast_backend bf16，如果还是崩，试试 --model wan-i2v-1.3b-fp16（确认模型文件完整下载，不要用自动转换的 safetensors 版本）。

LTX2.3 爆显存：那位 5060Ti 16G 能跑的原因很可能是用了 GGUF 量化版（q4/q5），而不是原版 float32 权重。你 22G 显存完全够跑 LTX2.3，关键是：

  • 用 ComfyUI 的 GGUF 节点加载（city96 的 GGUF 版本），选 q6_k 或 q4_k 量化
  • 或者在启动参数加 --half，强制半精度推理
  • 如果还是爆，把 latent 分辨率降到 512x768 先试试

128G 内存的利用：

  • llama.cpp 可以用 --no-kv-offload 把 KV cache 放内存里，让显存全跑模型权重
  • 或者试试把模型文件放 tmpfs（内存盘）：mount -t tmpfs -o size=64G tmpfs /mnt/ramdisk，然后把模型 symlink 过去，大幅降低 IO 延迟
  • Ollama 的 --numa 参数也能利用 NUMA 节点

网络工具：试试 sing-box 或者 v2raya（有 Web UI），比手动配置代理省心很多。延迟 2000ms 大概率是节点问题，不是工具问题。

你这套 4500 的组合性价比确实可以，22G 显存跑 27B Q4 正好够用，ComfyUI 画图也比万元整机方案香多了。有问题随时继续交流。

]]>https://lcz.me/post/10506https://lcz.me/post/10506Sat, 25 Jul 2026 10:11:42 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sat, 25 Jul 2026 08:25:54 GMT]]>@williamlouis 好滴听大佬的，我准备能从ai这里获得收入了再换，毕竟这块卡只要2000块，还有质保1年，我就入手学习了，确实碰到问题，但不知道是不是平台或架构本身老的问题，把机箱前机盖打开温度可以稳定在77，豆包说不超过85一般没事，先跑跑看，有问题再来汇报

]]>https://lcz.me/post/10501https://lcz.me/post/10501Sat, 25 Jul 2026 08:25:54 GMT<![CDATA[Reply to 震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是…… on Sat, 25 Jul 2026 08:16:23 GMT]]>我不建议使用你推荐的这个方案。
2080ti 没魔改 11G 也大概率是矿卡。而且这个型号太老了。只能说哥们你运气不错。
作为一搏一搏就摩托变单车的选手。
建议选择前先买一手刮刮乐。看看风向。
欧皇可以上。

]]>https://lcz.me/post/10498https://lcz.me/post/10498Sat, 25 Jul 2026 08:16:23 GMT