@我爱小猪 之前我也关注过这个小机子 但是缺点也很明显 只能依靠大佬去特定优化模型 换了模型就不行了 通用性比较差
lefunet
@lefunet
-
Aimax 395的定制qwen 3.8 flash,prefill突破1000了,decode 40-50 -
魔改SGLANG支持7900XTX 双卡TP TTFT <1s 平均TG 80-100! 4并发TG200/sec@Xiaote 华擎X570 可以的,有4槽宽,带双pci x16的接口。
也就那几个 太极 ace 而且还要买拆分 不能直插 不如x99 反正3.0x16 和 4.0x8 是一样的
-
双卡7900xtx,主板选择,x99-TF 或 X99-8D3 ?不用换双路 我的理解是单路x99能跑pcie3.0 x16 + x16
看你用什么 你要是用rocm那就不行 你要是用llama.cpp vulkun就没问题 -
各位大佬,小弟有个不成熟的想法,四卡40hx能不能玩?最近看到消息,40hx这个老卡破解了pcie2.0x16,而且自动启动也做好了,win和Linux下都有,那能不能4卡玩,用x99 的pcie3.0 x8x8x8x8,不知道效果如何,关键是便宜,目前还是400出头,好像已经涨了不少,4卡才2000不到就有32g了,不知道有没有可玩性。
-
7900XTX双卡TP,SGLang多并发飞速响应,本地AI神卡最后短板被补齐!配套主板和内存如何选择? -
7900XTX双卡TP,SGLang多并发飞速响应,本地AI神卡最后短板被补齐!配套主板和内存如何选择?我有个疑问 双路x99的这两个x16插槽的间距好像容不下三槽的7900xtx吧。。。