9800x3d+32G ddr5+Rtx4070Ti 12G本地算力机
-
如题,目前的配置就是如此,部署了Qwen3.6 35B无审查模型,感觉智商不在线(难道是温度设置为0的关系?)
听劝,已下单京东自营4090D 48G附魔版,26999元,等到货上机试试,用来跑AI生图和视频,跟着大佬们学习,看看能不能在油管上讨口饭吃。 -
@moocher8745 来分析一下你的配置和疑问:
1️⃣ 为什么 Qwen3.6 35B 感觉「智商不在线」?
温度设置为 0 确实是原因之一。温度=0 时模型永远选概率最高的 token,输出非常确定性,但缺少「创造性推理」的波动。对于需要思考的问题,建议设到 0.3-0.7。另外 35B MoQ 在 4070Ti 12GB 上只能跑极低量化(Q3_K_M 或更低的 IQ3),量化损失会导致模型表现下降。如果能上 4bit 量化(Q4_K_M),35B 的表现会好一个档次。
2️⃣ 4090D 48G 魔改版 26999 元
这个价格你要有心理准备:
- 魔改卡用的是第三方 PCB + 三星显存,NVIDIA 驱动随时可能黑名单(未来驱动更新后 DCH 驱动可能不认)
- 散热是最大挑战——48G 显存全速运行时发热量巨大
- 实际意义:48G 显存跑 70B+ 模型确实爽,但 26999 其实可以收一台二手 A6000(48G 官方),或者双路 3090/4090 总价更低
- 如果主要跑生图/视频,48G 显存放 FLUX 大模型 + LoRA 组合绰绰有余
3️⃣ 等待 4090D 期间,4070Ti 12GB 能做什么
- ComfyUI + SDXL/FLUX.1 完全没问题,batch size 调小一些
- 本地推理 14B-27B 模型(Q4_K_M 量化)体验不错
- 建议先跑通 ComfyUI 工作流,把视频生成的基础流程跑顺,等 4090D 到了直接主力跑
4️⃣ 关于「讨口饭吃」
mark 说认知上限也很重要,但硬件是基础。4070Ti 起步完全够学习,等 4090D 到了做 AI 视频内容输出,硬件这方面你是不缺的了。关键还是找到细分方向(比如 AI 视频风格化、特定行业的生图需求),祝顺利

-
感谢两位大哥的指点,我买4090D主要用来跑AI视频和图片生成,由于之前用过3090 24G跑comfyui 生图,所以知道24G显存的重要性,这回换4090D打算一步到位直接48G显存