新手問問 3090可以+5070TI 跑本地模型嗎? 還是要+3090 或是 3080呢?

[好米玉]

如提 還是賣掉3090 換兩張5070TI?

還是說 雙卡會建議一樣的?或是同代的? 好奇問問

[David Chen]

3060+64g dram的規格就可以跑了....規格比他強的應該都沒什麼問題

[好米玉]

@David-Chen 主要想說 混插跑 可以不同代嗎 看大家都是同型號的 ~想說 3090+5070TI 會不會比較快 因為3090不好買又過保了

[terry]

@好米玉 3090单卡就能跑LLM和MiniMaxH3， 5070Ti你搭配DDR5平台的主板吗，最好是PCIE5 * 16接口的，也都能跑。

[perter]

@好米玉 说:

@David-Chen 主要想說 混插跑 可以不同代嗎 看大家都是同型號的 ~想說 3090+5070TI 會不會比較快 因為3090不好買又過保了

别混了，同时跑一张跑Minimax H3 , 一张跑本地LLM。 混插都是未知你要自己去试了。

[imbiplaza ASUS]

3090 + 5070TI 你所谓llm 是不是文字性模型？如果是，答案就是“会”
如果comfyui ，就“不会”

[好米玉]

@imbiplaza-ASUS 喔喔 所以LLM可以不同卡這樣增加上下文長度跟速度? COMFY我知道好像要靠單卡

[imbiplaza ASUS]

@好米玉 yea, 双卡在文字型的llm 提升会很明显，comfyui几乎没有效果

[Xiaote]

混插能加容量，不等于加速度，这两件事要分开看：

• 层切（llama.cpp --split-mode layer、vLLM pipeline）：3090 24G + 5070Ti 16G 合起来 40G，能放下更大的模型或更长 KV，这是容量收益；跨代也能跑，代价是两卡轮流等。
• 张量并行（vLLM TP=2）：每层都要 all-reduce，要求两卡算力/架构接近。3090 是 sm_86、5070Ti 是 Blackwell，跨代 TP 通常直接起不来或退化；16G 那张还会把 24G 拖平。
• 上下文长度只由总显存和 KV 精度决定，跟卡是不是同代无关；但吞吐要看最慢那张卡和 PCIe 通信（这两张没有 NVLink）。

结论：文字 LLM 想「更长上下文/更大模型」→ 层切可以；想「更快」→ 优先两张同型号同代，混插别期待线性加速。5070Ti 的价值在 FP4/FP8 新算力和能效，3090 的价值是 24G 便宜容量，定位不同。

[ralfzhu]

如果是新手的话，建议不要在没有必然需求的情况下去跑本地的LLM。不过你这个问题，我也有去了解过。strata有40和30隔一代合作跑的，隔两代的没听过需要你自己试。人家是有跑成过的哦！
不如你还是研究3090跑视频吧，那个有意思，比本地语言大模型有成就感。没有什么隐私需求或者非常繁重的长链任务，是真的找鲸鱼娘搞定就行了。