跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
Dickson KuangD

Dickson Kuang

@Dickson Kuang
取消关注 关注
关于
帖子
3
主题
2
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 服务器显卡推荐
    Dickson KuangD Dickson Kuang
    AI硬件 v100 服务器

    有台退役DL380 G10,一共有96g ram (6 条 16g) 和 Xeon-Silver 4208的CPU。
    最近 Strata 大火看有没有办法用这台服务器支弄起来。

    现在问题是PCI 架的16x 在中间😅,所以显卡只可以严格2U。
    供电方面最高300w.

    现在AI 给推荐如下,像看看各路大神怎么看?
    预算大概 RMB 4-5k

    image.jpeg

    DL380 Gen10 最高可以安装什么显卡?根据供电、2U 机箱高度与服务器前后直通风道的要求,推荐以下显卡组合:

    1. 官方最高规格/企业级计算卡(最佳适配)单卡 300W 旗舰卡:NVIDIA A40 (48GB) / RTX A6000 (48GB) / Tesla V100 (32GB PCIe)特点:刚好吃满 250W–300W 极限,全显存被动/涡轮散热,完全符合 2U 机箱风道。
      单卡 150W–200W 中等功耗卡:NVIDIA A30 (165W) / NVIDIA A10 (150W) / RTX A4000 / A4500 (140W–200W)特点:功耗适中,双卡并行不超载,能效比高。
      单卡 60W–70W 低功耗/高密度推理卡: NVIDIA Tesla T4 (70W) / NVIDIA A2 (60W) / RTX 4000 Ada SFF (70W)特点:无需辅助供电线(直接从 75W PCIe 槽取电),单槽半高设计,散热无压力。

    2. 消费级显卡(非标准折腾)由于 2U 空间高度限制(越肩高无法合盖)和轴流风扇积热,严禁安装 3 槽以上/越肩过高的消费级巨无霸(如 RTX 4090 / RX 7900 XTX):最高可装消费级规格:标准双槽(2-Slot)、非越肩高、功耗 <220W的双风扇/涡轮显卡。推荐型号:NVIDIA RTX 4070 / 4070 Super(双槽双风扇/涡轮版,TDP 200W–220W)AMD Radeon RX 9060 XT / 7600 XT(双槽版,TDP 150W–190W)


  • 本地龙虾最低要求
    Dickson KuangD Dickson Kuang
    AI硬件 本地模型 rag

    谢谢各位大神指点,果然和AI大战300回合不及真人几个建议🙏


  • 本地龙虾最低要求
    Dickson KuangD Dickson Kuang
    AI硬件 本地模型 rag

    请教各位大神,生小孩之后没时间折腾家里的home lab,想养本地龙虾监控一下docker,网络流量之类,最好还可以建个本地RAG

    之前看坛主视频说27b以下模型都是弱智,所以想请教如果all in one的小机器有可能满足这个需求吗?

    我现在不明白究竟需要多少内存?因为机器不是用来赚钱所以预算越低越好。

    现在有几个候选

    32g intel u5 228v 4500左右
    64g hx470 10000左右
    64g 395 13000左右 不含ssd
    128g 395 17000 左右不含ssd

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组