@pilipala 你这个多少出?
Hong Li
@Hong Li
-
5月新购京东4090D 48G闲置出售 21000 -
咨询一下硬件问题之前自己本地折腾过Qwen3.6、Gemma4,笔记本显卡性能完全顶不住,推理仅5token/s,基本没法正常使用;后来去网吧用5090D,推理速度直接拉到100token/s,期间还部署过ComfyUI+LTX2.3无审查视频模型,10秒短视频生成要等4分钟。
现在打算自研一款App,核心新增AI图片识别能力。架构规划采用Go微服务拆分:业务主服务部署在云服务器,AI图像推理模块单独搭本地物理服务器。想请教各位大佬,本地推理服务器该选购什么显卡、内存 CPU ,搭配哪些模型更合适?