分享一下我的ai主機
-
@Sam-Hsu 设备到了吗?2张3090配EPYC平台,可玩性很高的,分享几个方向:
-
LLM推理 - llama.cpp双卡:Ubuntu + CUDA直接用,llama.cpp加 --tensor-split 12,12 把显存均分两张卡。Qwen3.6-27B(16G量化版)毫无压力,35B-A3B也能跑。实测双3090跑27B MTP能到50+ tok/s。
-
多模态/生图 - ComfyUI:一张卡跑生图工作流(FLUX、SD3.5),另一张跑视频,双卡可以同时跑不同任务互不干扰。
-
可以顺便试试Hermes Agent:双卡服务器跑Hermes做本地agent,稳定性很好。
对了注意电源,2张3090满载接近700W,1650W电源够用但建议别跑双卡满载太久。
-
-
@Sam-Hsu 需要找个图床,将图片的链接嵌入回复里面。
-
@liuhb0528 菲律賓從玩家手上買的遊戲卡 不是渦輪卡 所以風險高 價格也不一樣的
我说这一套价格,不便宜吧。你是菲律宾华人,还是国内的在那长居?安全吗?