震惊！萌新从0开始酣战4天，被Hermes和豆包连续坑害6小时原因竟是……
-
@贩桃者 写得非常详细，新手能踩完这些坑、总结出经验已经很厉害了！针对你剩下的几个问题，我补充一些实操建议：
关于 Wan2.2 生成画面崩坏：这大概率是精度设置的问题。Wan2.2 的 1.3B 版本对 FP16 要求比较严格，如果系统 fallback 到 FP32 或者模型文件不完整就会出现崩坏画面。建议在启动参数里加 --dtype fp16 --upcast_backend bf16，如果还是崩，试试 --model wan-i2v-1.3b-fp16（确认模型文件完整下载，不要用自动转换的 safetensors 版本）。
LTX2.3 爆显存：那位 5060Ti 16G 能跑的原因很可能是用了 GGUF 量化版（q4/q5），而不是原版 float32 权重。你 22G 显存完全够跑 LTX2.3，关键是：
- 用 ComfyUI 的 GGUF 节点加载（city96 的 GGUF 版本），选 q6_k 或 q4_k 量化
- 或者在启动参数加 --half，强制半精度推理
- 如果还是爆，把 latent 分辨率降到 512x768 先试试
128G 内存的利用：
- llama.cpp 可以用 --no-kv-offload 把 KV cache 放内存里，让显存全跑模型权重
- 或者试试把模型文件放 tmpfs（内存盘）：mount -t tmpfs -o size=64G tmpfs /mnt/ramdisk，然后把模型 symlink 过去，大幅降低 IO 延迟
- Ollama 的 --numa 参数也能利用 NUMA 节点
网络工具：试试 sing-box 或者 v2raya（有 Web UI），比手动配置代理省心很多。延迟 2000ms 大概率是节点问题，不是工具问题。
你这套 4500 的组合性价比确实可以，22G 显存跑 27B Q4 正好够用，ComfyUI 画图也比万元整机方案香多了。有问题随时继续交流。
-
[狗头]我承认我标题党了，但是6个小时的糟糕经历是真的
硬件总览（全套二手，合计 4515 元）
CPU：E5 2666V3
主板：昂讯x99
内存：128G DDR3
显卡：2080Ti 22G（豆包说3080拆GPU焊接翻车概率大，2080ti只焊显存翻车概率小）
电源：650w 铜牌
硬盘：三星 500g + 东芝2t一、机器实测效果
- 大语言模型（均为 Q4KP 量化）
- QWEN3.6 27B：生成速度 25token/s
- QWEN3.6 35B A3B：生成速度 60token/s
目前未做任何性能优化，论坛同配置玩家反馈优化后推理速度可直接翻倍。
- AI 绘图（ComfyUI）
可流畅运行 Flux2、Z image Turbo，Flux2 主要用来做漫画生图；
性能提升十分直观：旧设备出图需 300 秒，这台机器仅 30 秒就能完成。 - 视频模型两大痛点
- Wan2.2：能够正常启动，但生成画面全部崩坏，无法正常使用；
- LTX2.3：程序一打开就直接爆显存，完全跑不起来。
论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型，我把对方分享的完整工作流交给 Hermes 调试，显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化，也欢迎大佬分享相关教程链接指点我。
二、通宵 6 小时致命大坑：llama cpp server 仅能 CPU 运行，GPU 完全不参与运算
这一步直接折腾我一整晚，全程豆包、Hermes 轮番给出调试方案，来回试错浪费大量时间：
- Hermes 负责修改系统内核、编译显卡相关驱动组件；
- 豆包给出的方案是降级老旧显卡驱动，结果显卡风扇全程满速运转，噪音极大。
两套思路反复调试均无效，我想起之前用 Ollama 跑 9B 模型体验很顺畅，于是让 Hermes 安装 Ollama 环境：升级至最新显卡驱动、搭配 CUDA12.1，Hermes 自动调整配置文件，短短 5 分钟就正常运行，所有问题一次性解决。
三、实操避坑小贴士
- 使用 Hermes 操作服务器时，所有删除指令必须让它先向我确认再执行，把这句话让他写到记忆里，它经常忘记提醒，极易误删重要文件；
- 访问[hf-mirror.com]打不开时，备用镜像地址：[hf-cdn.sufy.com]下载速度稳定；
- 系统安装 & 模型下载全程参考豆包给出的指引：
显卡还没到货时，按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统，豆包称无头桌面环境可节省 500MB 显存；
初期用 aria2c 下载模型，支持断电续传，但缺点是看不到实时下载进度，使用体验较差；
之后搭建 Linux 本地共享文件夹，改用 Free Download Manager 下载，操作直观很多；
这里踩了严重的共享故障坑：笔记本无法访问 Linux 共享目录，Hermes 和豆包先后调试后直接把共享服务弄崩，彻底无法访问，好在我提前备份了配置文件，保住了整套运行环境。
四、当下现存待解决难题
- 网络工具：代理延迟长期维持在 2000 左右，急需稳定低延迟的工具；
- 硬件资源浪费：128G 大容量内存日常占用从未超过 20%，不清楚该如何充分利用内存提升 AI 运行效率；
- 长期发展规划：暂时没有明确方向，想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。
五、购机心路：放弃豆包推荐的万元全新 AMD 配置，转而入手二手 X99 套装
豆包最初给我规划的全新整机方案（总价约 13000 元）
- CPU：5600X
- 主板：B550
- 内存：64G D4
- 硬盘：1T 固态 + 3T 机械硬盘
- 显卡：蓝宝石 7900XTX 24G
- 电源：1000W 金牌全模组
豆包推荐这套配置的核心理由：单核性能强劲、多线程负载充足，AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术，减少内存交换，缓解显存压力。
下单前临时改主意，转战二手平台
准备付款前我反复权衡：一次性投入一万多购置新机，学习 AI 相关技术后能不能回本、产生收益？出于成本顾虑直接放弃全新 AMD 方案，开始挑选二手 X99 整机。
- 最初看中搭配：E5 2686V4 + 华南 X99 主板；
- 听论坛锤哥建议更换 CPU 为 E5 2666V3，主板再听从豆包推荐选择昂讯 X99：
豆包对比两款主板参数：昂讯 8 层 PCB 仅 180 元，华南 4 层 PCB 却要 330 元，性价比差距明显，当即敲定这套组合。
装机流程复盘
显卡延后发货，我提前跟着豆包的教程装好无头 Ubuntu 系统，ComfyUI 绘图部署全程顺利；
唯独视频模型、llama cpp server 两大环节接连踩坑，豆包和 Hermes 不断给出调试方案反复试错，走了无数弯路，最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。
全文总结
- 性价比优势突出：4500 元二手 X99+2080Ti 22G 组合，就能流畅运行几十 B 参数大模型、Flux 漫画生图，出图速度远超普通家用主机，预算有限的 AI 入门玩家可以直接参考这套低成本方案；
- 踩坑核心经验：llama cpp server 对老旧显卡兼容性很差，新手没必要硬调，优先选择 Ollama 部署大模型能大幅降低调试成本；Ubuntu 无头系统是豆包推荐的显存优化方案，但本地文件共享功能极易崩溃，所有配置文件务必备份；调试过程中豆包、Hermes 给出的方案各有优劣，部分老旧驱动方案反而会衍生出新故障；
- 现存待优化问题：Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动；128G 大容量内存利用率极低；
- 后续规划目标：学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具，同时调研各类 AI 变现赛道，让这台低成本 AI 主机产生实际收益。
-
@williamlouis 好滴听大佬的，我准备能从ai这里获得收入了再换，毕竟这块卡只要2000块，还有质保1年，我就入手学习了，确实碰到问题，但不知道是不是平台或架构本身老的问题，把机箱前机盖打开温度可以稳定在77，豆包说不超过85一般没事，先跑跑看，有问题再来汇报
-
我使用的和楼主差不多的配置：
CPU：E5-2673V3
主板：昂讯X99XD3
内存：DDR3 1866 32G*4
显卡：2080TI 22G
系统：UBUNTU 26.04
显卡驱动：Driver Version: 595.84 CUDA Version: 13.2
COMFYUI：0.27.0
Pytorch Version：2.11.0+cu130
使用B站@梦影Erislia的LTX2.3视频导演台2.0工作流能正常出视频，内存根据时长会明显提升占用，128G内存是有用的，LTX2.3关键是使用Q4量化的模型就能正常使用2080TI 22G运行了 -
[狗头]我承认我标题党了，但是6个小时的糟糕经历是真的
硬件总览（全套二手，合计 4515 元）
CPU：E5 2666V3
主板：昂讯x99
内存：128G DDR3
显卡：2080Ti 22G（豆包说3080拆GPU焊接翻车概率大，2080ti只焊显存翻车概率小）
电源：650w 铜牌
硬盘：三星 500g + 东芝2t一、机器实测效果
- 大语言模型（均为 Q4KP 量化）
- QWEN3.6 27B：生成速度 25token/s
- QWEN3.6 35B A3B：生成速度 60token/s
目前未做任何性能优化，论坛同配置玩家反馈优化后推理速度可直接翻倍。
- AI 绘图（ComfyUI）
可流畅运行 Flux2、Z image Turbo，Flux2 主要用来做漫画生图；
性能提升十分直观：旧设备出图需 300 秒，这台机器仅 30 秒就能完成。 - 视频模型两大痛点
- Wan2.2：能够正常启动，但生成画面全部崩坏，无法正常使用；
- LTX2.3：程序一打开就直接爆显存，完全跑不起来。
论坛有玩家用 5060Ti 16G 显卡就能流畅运行同款模型，我把对方分享的完整工作流交给 Hermes 调试，显存溢出问题依旧没能解决。后续打算专门找教程学习视频模型优化，也欢迎大佬分享相关教程链接指点我。
二、通宵 6 小时致命大坑：llama cpp server 仅能 CPU 运行，GPU 完全不参与运算
这一步直接折腾我一整晚，全程豆包、Hermes 轮番给出调试方案，来回试错浪费大量时间：
- Hermes 负责修改系统内核、编译显卡相关驱动组件；
- 豆包给出的方案是降级老旧显卡驱动，结果显卡风扇全程满速运转，噪音极大。
两套思路反复调试均无效，我想起之前用 Ollama 跑 9B 模型体验很顺畅，于是让 Hermes 安装 Ollama 环境：升级至最新显卡驱动、搭配 CUDA12.1，Hermes 自动调整配置文件，短短 5 分钟就正常运行，所有问题一次性解决。
三、实操避坑小贴士
- 使用 Hermes 操作服务器时，所有删除指令必须让它先向我确认再执行，把这句话让他写到记忆里，它经常忘记提醒，极易误删重要文件；
- 访问[hf-mirror.com]打不开时，备用镜像地址：[hf-cdn.sufy.com]下载速度稳定；
- 系统安装 & 模型下载全程参考豆包给出的指引：
显卡还没到货时，按照豆包建议用 balenaEtcher 烧录 Ubuntu22.04 无头版系统，豆包称无头桌面环境可节省 500MB 显存；
初期用 aria2c 下载模型，支持断电续传，但缺点是看不到实时下载进度，使用体验较差；
之后搭建 Linux 本地共享文件夹，改用 Free Download Manager 下载，操作直观很多；
这里踩了严重的共享故障坑：笔记本无法访问 Linux 共享目录，Hermes 和豆包先后调试后直接把共享服务弄崩，彻底无法访问，好在我提前备份了配置文件，保住了整套运行环境。
四、当下现存待解决难题
- 网络工具：代理延迟长期维持在 2000 左右，急需稳定低延迟的工具；
- 硬件资源浪费：128G 大容量内存日常占用从未超过 20%，不清楚该如何充分利用内存提升 AI 运行效率；
- 长期发展规划：暂时没有明确方向，想知道深耕哪条 AI 赛道能依靠这台设备稳定变现。
五、购机心路：放弃豆包推荐的万元全新 AMD 配置，转而入手二手 X99 套装
豆包最初给我规划的全新整机方案（总价约 13000 元）
- CPU：5600X
- 主板：B550
- 内存：64G D4
- 硬盘：1T 固态 + 3T 机械硬盘
- 显卡：蓝宝石 7900XTX 24G
- 电源：1000W 金牌全模组
豆包推荐这套配置的核心理由：单核性能强劲、多线程负载充足，AMD CPU 搭配 7900XTX 显卡可开启 SAM 技术，减少内存交换，缓解显存压力。
下单前临时改主意，转战二手平台
准备付款前我反复权衡：一次性投入一万多购置新机，学习 AI 相关技术后能不能回本、产生收益？出于成本顾虑直接放弃全新 AMD 方案，开始挑选二手 X99 整机。
- 最初看中搭配：E5 2686V4 + 华南 X99 主板；
- 听论坛锤哥建议更换 CPU 为 E5 2666V3，主板再听从豆包推荐选择昂讯 X99：
豆包对比两款主板参数：昂讯 8 层 PCB 仅 180 元，华南 4 层 PCB 却要 330 元，性价比差距明显，当即敲定这套组合。
装机流程复盘
显卡延后发货，我提前跟着豆包的教程装好无头 Ubuntu 系统，ComfyUI 绘图部署全程顺利；
唯独视频模型、llama cpp server 两大环节接连踩坑，豆包和 Hermes 不断给出调试方案反复试错，走了无数弯路，最后更换 Ollama 部署方案才彻底解决大模型 GPU 调度问题。
全文总结
- 性价比优势突出：4500 元二手 X99+2080Ti 22G 组合，就能流畅运行几十 B 参数大模型、Flux 漫画生图，出图速度远超普通家用主机，预算有限的 AI 入门玩家可以直接参考这套低成本方案；
- 踩坑核心经验：llama cpp server 对老旧显卡兼容性很差，新手没必要硬调，优先选择 Ollama 部署大模型能大幅降低调试成本；Ubuntu 无头系统是豆包推荐的显存优化方案，但本地文件共享功能极易崩溃，所有配置文件务必备份；调试过程中豆包、Hermes 给出的方案各有优劣，部分老旧驱动方案反而会衍生出新故障；
- 现存待优化问题：Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动；128G 大容量内存利用率极低；
- 后续规划目标：学习视频生成模型优化教程、研究大容量内存的调度利用方法、寻找低延迟网络工具，同时调研各类 AI 变现赛道，让这台低成本 AI 主机产生实际收益。
试一试我的启动：
--user-directory "c:\comfyui\user" --disable-dynamic-vram --cache-none --listen 0.0.0.0 --cuda-device 0尤其是--disable-dynamic-vram
还记得的5月初更新最新comfyui ，只要没有加上--disable-dynamic-vram，一定会oom
现在就不懂了，我的是stability matrix 启动comfyui v24.0,
在stability matrix 里可以通过live console 看到comfyui卡在什么地方,
再通过gemini去解决。。。
-
@贩桃者 2080Ti是工业垃圾，现在入手相当于49年加入国军。2080Ti的质保应该是指店保，和厕纸一样没什么价值。你碰到的那些问题很难修复，架构太老，你但凡多看看硬件区的帖子，都应该知道，它只在少数情况下有效。
你目前缺的不是一张卡，而是基本认知。比如Wan2.2 生成画面崩坏、LTX2.3 爆显存无法启动；128G 大容量内存利用率极低；1T内存也是一样的效果。如果要载入内存缓存，DDR3不够，你的X99 CPU性能也够呛。如果显存够，你不需要128G内存。这些基本原理其他帖子里都有讲解。
-
我系统安装的cuda版本是12.4，llama.cpp 官方版本使用这个cuda版本进行编译安装是能正常运行的，我日常是使用llama.cpp运行qwen 3.5 9b q8模型给openclaw做图像识别使用，openclaw就部署在这台主机上，主模型使用minimax m3，平日让openclaw自己使用comfyui的anima模型去画图还是不错的，画完图也能自动调用qwen 3.5 9b图像分析效果然后再调整提示词，这套平台作为练手用我认为还是可以的
