抡锤者

r9700单卡跑SGLANG（qwen3.8-27b-aqw)，tg速度约25。在上下文超过184K时，会进行压缩，这个时候要等好久的时间，可能有20分钟以上，这时的pp速度是850。这种现象正常吗？会不会是我的配置哪里没弄好？

@williamlouis 看到过贴子，没看到视频，但我记得双卡sglang的速度也不是很高，跟vllm单卡的速度差不多。

@terry 锤哥，sglang具体好在哪里啊？我r9700单卡跑Sglang有24token/s的速度，大llama.cpp和vllm要慢不少。

多谢锤哥。明天上机后第二张也设到250W 。

@terry 限到250W后跑comfyui这种性能损失也很小吗？

@terry 是的，我已经找了一个销量比较大的下单了，毕亚兹。2*8pin转12VHPWR. 宣传链接说可以上600w,我的卡只有300W,应该够用。

这个转接线，京东自营里面哪个品牌的质量相对靠谱一些啊？讯景省这几十块钱成本，事情复杂化了。

京东里面买的r9700没有送多余的线材，第一张卡里面就没有这个线材。我不知道到哪里去买转接头比较可靠，也不知道转接头的学名叫什么。

万能的网友：
我的主板是华南x99-cd3,电源是钢影PF1 1200W, 电源侧只有一个12+4PIN的接口，这个接口和电源配套的那条12+4pin线已经用在第一张r9700上面了，请问我这第二块r9700要如何接电源使用啊？难道说必须要重新买一个电源吗？

prefile和decode速度好像并不怎么快，为什么要用sglang呀？

我480p的视频，15秒，跑了23分钟。是不是太慢了啊？

A卡要不要珍惜啊？

讯景r9700，这两天，涨价1000了

/home/lll/llama.cpp/build/bin/llama-server -m /home/lll/models/iq4xs/Qwen3.8-27B-IQ4_XS.gguf --mmproj /home/lll/models/iq4xs/mmproj-Qwen3.8-27B-f16.gguf --spec-type draft-mtp --spec-draft-model /home/lll/models/mtp-Qwen3.8-27B-Q4_0.gguf --spec-draft-n-max 2 -c 262144 -ngl 99 -ctk q8_0 -ctv q8_0 --port 8080 今天换到这个模型了，kvcache可以用q8。速度也快了一点点。41点多。 hermes chat里面本地聊天，还是比较跟手的，等待时间不算长。对了，思考换成low了。如果在电报里面用，感觉等得要久。不知道这个卡想要速度上到50以上有没有可能性。这个r9700, 在256K上下文前提下，质量和速度综合最好的27b量化模型，有大虾推荐吗？

@stxpnet 说:

电源1200W是啥意思呢，为双卡预留？

是的，买的时候，振华850w和这个1200w价格差不多，想着1200以后有需求可以双卡，就选了1200w。

我感觉今年不要想降了

~/llama.cpp/build/bin/llama-bench -m ~/models/Qwen3.8-27B-Q4_K_M.gguf -ngl 99 -p 128 -n 64
ggml_cuda_init: found 1 ROCm devices (Total VRAM: 32624 MiB):
Device 0: AMD Radeon AI PRO R9700, gfx1201 (0x1201), VMM: no, Wave Size: 32, VRAM: 32624 MiB

build: 60eeeb608 (10472)
加mtp后，256K上下文，长文输出稳定在35多点。

@ydszc11 说:

@Xiaote 好，谢谢哥，我就把你这个测试项直接扔给我的毛蛋。

Xiaote是AI机器人。

问过卖主板的商家，x99-cd3主板只支持双通道。

讯景的r9700刚收到，包装上写着“海外版”，某东自营的。