-
-
-
这个TF板子 我一开 above 4G Decoding ,下次启动我按del bios就进不进去了,需要清理bios恢复出厂才能进,无语,不知道是个例还是什么.我个人觉得 5K大洋 2个V100如果控制好噪音,其实这套配置专门跑Strata作为一个小弟agent还是性价比比较好的,就是电费略贵20%-30%左右.
-
-
这个TF板子 我一开 above 4G Decoding ,下次启动我按del bios就进不进去了,需要清理bios恢复出厂才能进,无语,不知道是个例还是什么.我个人觉得 5K大洋 2个V100如果控制好噪音,其实这套配置专门跑Strata作为一个小弟agent还是性价比比较好的,就是电费略贵20%-30%左右.
-
@gao-gao @soop-ladios 我开了Above 4G decoding 还可以进BIOS，但是这板子进BIOS一点都不好进，我也不知道到底是需要按F2还是Del，反正没开的时候就不好进，后来我都是两个键狂按，有时候也会失败，但是也能进。
-
-
这个TF板子 我一开 above 4G Decoding ,下次启动我按del bios就进不进去了,需要清理bios恢复出厂才能进,无语,不知道是个例还是什么.我个人觉得 5K大洋 2个V100如果控制好噪音,其实这套配置专门跑Strata作为一个小弟agent还是性价比比较好的,就是电费略贵20%-30%左右.
- 我是觉得这一套下来五千多（如果加上电源硬盘价格），专机专用跑Strata性价比是可以的，然后其他更高级设备可以拿来处理别的AI工作。
- 我现在基本上一天到晚都能给它吃满，也是专机专用，我认为是很值得的。
- 然后整机功耗跑AI的时候大概450W左右，待机180W左右。功耗会波动，具体的我也没用专业设备持续测量，只有一个普通的电量计量插座，大概看一下也就这种程度。
- 我还设想了一种方案，如果不在乎耗电量的话，这种机器复制它个三四台或者更多，然后再加一台电脑跑PVE虚拟化，开一个虚拟机跑“LiteLLM”这种路由来做负载均衡和故障转移，其他资源来开Agent的虚拟机。这样这些双V100+X99的机器累计下来的算力和多并发也是很可观的，而且买更高级设备的钱可以买很多这种机器，如果说需求就是很明确的Strata + Qwen 3.8 Flash Next这样的LLM工作比较多，这样也是一种可以考虑的方案。
- 再进一步也可以配三台虚拟化的服务器，反正这个不需要显卡，也不会增加太多开销，然后可以再做个“PVE 三节点 HA 集群”，这样API路由和Agent的虚拟机还有其他服务都可以实现几乎零中断的故障转移，至于说X99+V100这些那就凭堆出来的数量，那就坏一台还有好几台，工作不中断，比只有一台四卡八卡的机器靠谱的多。只有一台机器在我看来那就是在制造单点故障的可能。
- 当然这种设想也是比较大局限性，比如就跑这种LLM的工作负载了。但是如果具体需求就明确是LLM的话，我觉得也是可以考虑的。这些设想也是等我跑通AI的商业性回报以后，下一步的升级方向。我先把这个想法发出来和大家讨论一下，毕竟我自己也还没有真正把这套架构完整搭起来。有没有什么明显的问题，或者在负载均衡、故障转移、PVE HA、多机 LLM 调度这些方面有经验的，也欢迎大家指正。
-
-
去他家官网找说明书，进bios是按del
-
-
版主审定：本帖设为优秀，作者 +3 积分奖励，继续加油！
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励！