雙R9700玩qfn的朋友又有得玩了

[paul hou]

@张光璞
STRATA又更新了，單R9700的PREFILL上升19%

Prompt	MMQ（PF_FUSED_NATIVE=0）	Fused int8 kernel	提升
7,118 tok	3,953 ms（1,801 tok/s）	3,309 ms（2,160 tok/s）	+19.5%
14,244 tok	7,567 ms（1,882 tok/s）	6,318 ms（2,256 tok/s）	+19.8%

[张光璞]

@paul-hou 说:

@张光璞
STRATA又更新了，單R9700的PREFILL上升19%

Prompt	MMQ（PF_FUSED_NATIVE=0）	Fused int8 kernel	提升
7,118 tok	3,953 ms（1,801 tok/s）	3,309 ms（2,160 tok/s）	+19.5%
14,244 tok	7,567 ms（1,882 tok/s）	6,318 ms（2,256 tok/s）	+19.8%

我的9700 供电没解决，12V会被用电尖峰拉跳闸。 降频降压解决不了。

只能改电源了。

[fcme]

@paul-hou
被这帖子搞的都有点心痒痒想入第二块9700

[fcme]

有了第二块以后，上下文加并发加速度全齐。感觉一个两三个人甚至三四个人的小团队使用都没有问题了，看来这个r9700的潜力现在是终于被榨出来了

[paul hou]

@fcme
確實讓人很想要第二塊R9700，不過現階段夠用就好，到時又要換qwen4 27B，單張應該還是能打的。

[张光璞]

@fcme 说:

@paul-hou
被这帖子搞的都有点心痒痒想入第二块9700

昨天看到此贴时去京东看了下价，盈通的9700 都 14000了

[johnnybegood]

看这一轮轮军备竞赛， 我只想说一句话：

吾生也有涯，而知也无涯。以有涯随无涯，殆已！

[fcme]

@张光璞
哈哈，反应这么快么，我这里还是只要2299刀折合10750RMB，感觉还算有性价比。

[applejuice]

@fcme 我这里有个卖3个月2手2000美金
感觉是三个月前买了玩不下去的玩家

[fcme]

@applejuice
你要买的话看看asrock的，做工好，价格还便宜。美国应该有的

[applejuice]

@fcme 我在新加坡 但是我以为 sapphire 最好了？
我不买了 除非把3090出掉
不然要换机箱电源

[张光璞]

@johnnybegood 说:

看这一轮轮军备竞赛， 我只想说一句话：

吾生也有涯，而知也无涯。以有涯随无涯，殆已！

没有人会嫌输出快。看到新框架总是想试试的。 当软件成为瓶颈的时候只能折腾硬件了

[fcme]

@applejuice
哦哦！其实单卡的话，把那个功耗限制到250W一点问题没有，散热问题也解决了，性能损失一点点，好像也就2-3%的样子。
我总的来说还是看自己需求吧，我很有可能要入

[tmp tmp]

r9700玩qfn的速度，也跟内存的速度相关吧。ddr3 1866的内存（双通道）有没有得玩啊？

[paul hou]

我是DDR4 3200 32G 雙通道

[applejuice]

@paul-hou 现在ddr4 3200 太贵了

[paul hou]

@applejuice
我當初台幣700/16g買的，現在已經漲快6倍了。

[fcme]

我的flash next说让我观望一下如果作者后续的针对R9700运行flash模型的3bit/4bit的优化做好了可能速度比27B还快，就没必要上双卡了，拭目以待

[applejuice]

@paul-hou
为了玩strata
4个月前 内存还无关重要
所以我我买了2133 32gbx2

因为strata
但是又买不起3200
所以刚刚换了8x32gb 2666...

除了3090 整架机器已经不是4个月前的机器了

[applejuice]

@fcme 对硬件的追求是无止境的

当初买pro 6000 的现在应该想着买多一块pro 6000