机器1:模型推理机
CPU:i5-10600K
主板:技嘉z490 auros pro ax
内存:16+8+8+16
硬盘:东芝xg3 512g + 镁光5100pro 960g
显卡:RTX2080ti 22G X2 nvlink
电源:鑫谷gm1250 atx3.0
机器2:模型+智能体混合机
CPU:i7-11800H
主板:铭瑄11800H板U
内存:32+32
硬盘:三星970pro 512g + 英特尔s3610 800G
显卡:RTX3090
电源:先马xp1000 V3
机器3:飞牛存储服务器
CPU:i7-7700
主板:华硕b150m-plus-d3
内存:8+8+8+8
硬盘:三星sm961 256g + 东芝mg08 8Tx2 + 西数紫盘4Tx2
电源:鑫谷gp700G 黑金全模组
网卡:扩展rtl8125网卡
部署情况
机器1:gpustack ,(qwen3.6-35b-a3b,qwen3-embedding,qwen3-rerank)常驻 ,ragflow,obsidian
机器2:1panel,gpustack,(qwen3.6-27b,comfy-ui )按需,harmes以及杂七杂八的容器