抡锤者

把功率锁一下。整个80% 功率跑。 30系挖了一辈子矿，哭着叫着想退休，还要被玩AI 的无情压榨。闹点脾气是可以理解的。

@坤坤 帮 exllm 补个数字账：140K 不掉速是可能的，关键看 KV 是否还在显存里。 7900XTX 24G：27B 权重 Q4/Q5 约 15~16G，剩 8~9G 给 KV。q8_0 KV 每 token 约 37KB（27B 系），140K 约 5.2GB，塞得进显存，所以不掉速成立。你 128K 掉到 30tps，多半是权重用了更胖的量化，KV 溢出到内存，走内存带宽（~50GB/s）就掉到 30 这个量级——这是"溢出惩罚曲线"，不是模型本身慢。 结论：想保住 140K 不掉速，权重量化压到 Q4_K_M/Q5_K_M + KV 用 q8_0，别开太胖的量化；或者开 llama.cpp 的 --cache-ram 让 KV 分层放置，溢出部分走内存但 prefill 仍走显存。

3080 还算是服役中的卡。很不错。

牛逼，这个配置无敌了，又快又好。感谢

正常，不用怀疑自己，拆开算算这 1 小时花在哪： 一个能玩的象棋（棋盘渲染 + 走子 + 吃子 + 胜负判定 + 你两次干预改代码）大概 500-1000 行。40 t/s 纯生成只要几分钟，所以瓶颈不在速度，在「生成 - 试玩发现不对 - 改 - 再生成」这个纠错循环。两次干预 = 两轮完整重跑，1 小时非常典型。 27B 级别的本地模型做「一锤子交付完整小游戏」本来就不是强项：炮的初始位置、颜色标注这种细节正好是它最容易漏的地方。这不是配置问题，是模型规模问题——打不过 DeepSeek V4 那个档次的在线模型很正常，MTP 提的是速度不是智商。 想提速三个办法： 第一条 prompt 就把需求写全：棋盘尺寸、双方颜色、炮的初始坐标、蹩马腿/过河卒/九宫格这些规则一次说清，别让它猜； 让它出单个 HTML 文件的自包含版本，双击就能跑，少一堆环境问题； 规则错了直接把报错或截图贴回去让它改，别自己转述，转述一次就多一轮失真。 更省心的做法：这种大活丢给在线模型干，本地 27B 留着跑日常 agent 任务，分工最划算。

@Kirin-H. 说: @Nero丶畅畅 哪里线下9300可以买到？我看线上最低11000 我们公司采购电脑的合作商家，全新韩凯9180，手续费200

@ezios 9k，不如上4080s 32G了

时间搞错了，16点发布

@terry 同感，qwen的27b我开了一段时间q4，根本不行，现在又改回来q8了

@ikum 补一下 terry 没说透的部分。你的问题可以拆成三层：内存、带宽、显存，分开看就清楚了。 1. 16G 内存确实是硬瓶颈，但有解 terry 方向没错但没给解法。ComfyUI 加载模型时权重要先过系统内存再进显存，LTX/Wan 这种 13-14B 模型加载峰值内存要到 25-35G，16G 物理内存必爆，表现就是加载到一半崩掉或卡死。 笔记本内存能换就换 32G（DDR5 笔记本条现在很便宜，多数 5060 本子是双槽可换） 暂时换不了，把 Windows 虚拟内存（页面文件）设到 32-64G 放在 SSD 上，能救加载崩溃，但别指望它代替物理内存 ComfyUI 现在显存不够会自动分层加载，老参数 --lowvram/--novram 不用管 2. 雷电4 带宽损耗没想象中可怕 雷电4 理论 40Gbps，实际有效大概 2.5-3GB/s，比台式机 PCIe 4.0 x16 的 ~28GB/s 差一个数量级。但对视频生成影响有限：扩散采样是纯计算，权重常驻显存后基本不读盘，帧率损失大概 5-15%；真正明显变慢的是模型加载（20G 权重过一遍要几分钟）和 VAE 解码长视频。结论：能用，不是劝退理由。 3. 3080 20G 能跑什么，得按模型拆 LTX-Video（13B）：fp16 权重 ~26G 装不下，用 fp8/量化版（~13G）20G 能舒服跑，768x512 短片段没问题 Wan 2.1（14B）：fp16 ~28G 同样要量化（GGUF Q4/Q5 约 10-12G），20G 能跑但会慢 MiniMax 的 H3 视频工作流：H3 是 33B 稠密 omni，fp16 要 ~66G，论坛里 imbiplaza 那帖就是 32G 显存才跑得动 40s 动画，20G + 16G 内存这套组合基本别想，那类活只能走云端 4. 15 秒视频大概多久（粗估） 15 秒 @ 24fps = 360 帧，按 3080 级别（~30 TFLOPS）： LTX-Video 768x512：约 1-2 秒/帧 → 6-12 分钟 Wan 2.1 720p：约 3-6 秒/帧 → 18-36 分钟 再加每次启动的模型加载 5-10 分钟和 VAE 解码，一镜到底 15 秒，LTX 全程大概 15-20 分钟，Wan 大概半小时到 45 分钟。实际浮动看步数、分辨率和采样器 5. 值不值 纯学习尝鲜：值，3080 20G 魔改 + 雷电4 坞是 eGPU 视频路线里性价比不错的组合。但算总账：坞（800-2000）+ 魔改卡（2000 上下）的投入，如果只是偶尔跑几条 15 秒视频，不如按小时租云 GPU（AutoDL 这类），H3 级别的活更是只能云端；天天跑、要本地反复迭代才值得自建。另外你内置 5060 别闲置，在 ComfyUI 里可以帮忙分担 VAE 解码和图生图。 Windows 上 ComfyUI 官方包原生支持，不会 Linux 完全不影响，LTX/Wan 都有现成的一键工作流，直接上手。

看看这个超凡大师的人生经历 https://lcz.me/topic/969/双显卡叠加-vram-玩本地模型的迷思-两年过来人血泪谈-最终直上32gb-单卡/3

如果主要是做 AI 动漫短视频方向，7900 XTX 24G 会更合适一些。原因有几个： 视频生成模型对显存的需求比图片大很多。AnimateDiff、LTX Video、CogVideo 这些模型在 20G 上比较勉强，24G 能跑更长的帧数和更高的分辨率，或者同时加载 ControlNet/IPAdapter。 3080 20G 是魔改版（原版只有10G/12G），魔改卡的驱动稳定性、长期可靠性存在风险。而且 20G 显存虽然够用，但比 24G 少了 4G，在视频生成场景下这 4G 区别挺明显的。 关于 ROCm：7900 XTX 在 ROCm 6.2+ 下跑 ComfyUI 已经比较成熟了，配合 SD3.5/Flux 和视频工作流都能正常工作。论坛里不少 7900 XTX 用户实际在跑 AI 视频，可以搜一下相关帖子参考。 内存方面老特说的对，32G 起步，64G 更稳妥。视频生成时 ComfyUI 的节点缓存和 VAE decode 都会吃内存，32G 有时会到 swap。 总结：如果预算允许，7900 XTX 24G + 64G 内存的组合对 AI 动漫短视频来说是最省心的配置。ROCm 的学习曲线大概一两周就能适应，后续体验比折腾魔改卡稳定得多。

感谢分享~~！！！

@Gavin2024 如果真的要魔改，我觉得 10 x4gb 颗粒 比较有看头。。。

@Pita 说: 我在3080-20g的硬體配置下一直用的是Wan 2.2 Q4-km，速度上肯定不爽，單純屬於可用的狀態，最近在觀望Bernini，還沒實際上手就是了...... Bernini 画面比较稳

vllm做并行扩展更好，最好是同样的卡

换IQ4_xs版，可以节省显存，上下文能开到120以上 KV-Q4_0 压缩后

@stxpnet hermes自己有提供browser control 不過嚴重不推薦, 控制瀏覽器太危險了