【双 R9700 折腾记】从 Strata 到 Radiance
-
@fcme 因为strata 所以没什么关系 因为即使200k prefill 速度也有3000
除非cache 被洗掉
对话再prefill 一次比较久 -
@applejuice
5090么，pp这么快？我的5070ti只有2000左右，感觉没有命中的时候还是慢 -
@fcme 3090x2 strata 啊 250w 功率限制 prefill都有3700
-
@applejuice
哦，牛逼，牛逼，那也是双卡高带宽并行啊！比不了
-
-
请问佬，我也有想配置双R9700的想法，但是对于硬件尤其是主板和电源不是很了解，内存我这倒是有DDR4 64G，然后cpu是5950X，现在是一张B550M重炮手的主板+7900XTX的显卡。不知道目前我的设备有多少可以继承过来
-
@HHFu517
你可以把你的配置然后给AI看一下，但是B550肯定是不支持pcie通道拆分的。所以你双卡的话应该是没法用这个主板，你需要换一个更高级的主板。具体很烦，你还是找AI问一下 -
-
，
B Bunsei 引用了 此主题
-
-
我今天也试了一下rediance，单卡。开始好拉胯，PP1000左右，TG才35左右，说是因为我的服务器PCIe只有3.0x16,而楼主的有PCIe5.0x8相(当于4.0x16)，让我升级PCIe。
，有钱我早就升级了
后来让deepseek flash给自动调优速度和缓存最后才稳定到1900/110左右，再配合缓存（rediance的缓存机制比较拉）的话体验应该会不错的，速度还是和R9700用paiton跑27B没法比，但是为了质量也忍了。 -
我今天也试了一下rediance，单卡。开始好拉胯，PP1000左右，TG才35左右，说是因为我的服务器PCIe只有3.0x16,而楼主的有PCIe5.0x8相(当于4.0x16)，让我升级PCIe。
，有钱我早就升级了
后来让deepseek flash给自动调优速度和缓存最后才稳定到1900/110左右，再配合缓存（rediance的缓存机制比较拉）的话体验应该会不错的，速度还是和R9700用paiton跑27B没法比，但是为了质量也忍了。 -
@fcme 昨天也试了一下，TG只有30左右, 要怎样调优？
@alan.lgv60
最关键的就这个
--adapt-every 1
开不开那个解码差很多的，当然仅限于我自己的机器，你可以试一下，整体上来讲还是直接找AI给你调优就好。 -
@alan.lgv60
最关键的就这个
--adapt-every 1
开不开那个解码差很多的，当然仅限于我自己的机器，你可以试一下，整体上来讲还是直接找AI给你调优就好。 -
-
-
-
-
