来自RTX PRO 5000的碎碎念
-
感覺這不是壓不壓榨極限性能的問題, 而是這個性能好像連甜品位都還沒到的樣子
@566656661 看感觉尺度了。我的够用不是你的够用。得你感觉够用才是真够用。不是吗?
-
@566656661 看感觉尺度了。我的够用不是你的够用。得你感觉够用才是真够用。不是吗?
-
我非常懒。所以很少折腾自己不需要的东西。
-
,
K kop wang 引用了 此主题
-
@b9704037 Q8或者FP8都测试了,显存是占满了,但是效率下降了。不开MTP,decode只有15t/s左右。MTP的话,因为显存占用更大,上下文挤占太多。FP8不开MTP只能开200k上下文。
-
,系统 取消固定了此主题
-
@sirwang 咬牙又去了趟洗浴中心。真是好。这个选择真是值当!
-
,
T Tony Wang 引用了 此主题

