升级后单卡7900xtx，strata 可以跑 100token/s 了！！
-
-
-
-
-
-
@kos-or 之前单卡70token/s ， tp2 可以上100，现在还没试过，估计可以到150token/s? 哈哈哈
-
图上的是真实生产跑的速度 能到100， 测试跑的矩阵 的速度是这样的：
已测的是 2K、16K、64K、128K、220K 输入，每档分别测单路和双路，输出上限 1024 token。下面是已完成格的实测速度；双路数字是“每路”，不是相加后的吞吐：2K：单路 Decode 109.4 tok/s；双路各 109.7、114.1 tok/s；整批约 16 秒。
16K：单路 104.3；双路各 104.6、103.1 tok/s；整批约 26 秒。
64K：单路 97.9；双路各 96.2、96.8 tok/s；整批约 72 秒。
128K：单路 94.1；双路各 94.7、94.4 tok/s；整批约 138 秒。
220K：单路 90.3 tok/s，Prefill 约 226 秒，整次约 238 秒；
测试容器是 ROCm 10.1.0 + Strata 0.1.44.1、双单卡 replicas -
-
-
-
-
如图：
刚升级了最新的 rom 10.1 ，strata 版本 v0.1.44 , 一起升级的，这是什么奇妙的化学反应！！！
-
-
-
@farmer-node 我也升了， 速度没升也没降， 但SSD疯狂读盘， 只要agent干活， 就在读ssd。 好奇怪， 我看你的ssd几乎是不动的
@J-Z-0 https://lcz.me/topic/2317/33 ， 这个是我设备的硬件，我想的是之前贴了，这里就不贴了，EYPC 的平台， 参数这里都有， 唯一改了的就是 这个参数 --ple-io mmap
-
@coin1860 https://lcz.me/topic/2317 这个帖子有详细参数信息，
唯一改了的就是 这个参数 --ple-io mmap，模型用的Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S-proj -
-
prefill有多少？
@Hackner-Weinland 最高2000左右，单卡
-
@J-Z-0 https://lcz.me/topic/2317/33 ， 这个是我设备的硬件，我想的是之前贴了，这里就不贴了，EYPC 的平台， 参数这里都有， 唯一改了的就是 这个参数 --ple-io mmap
-
@farmer-node 我在另一个帖子贴了我的问题， 44和43的某些行为肯定不一样， 但我不明白为什么。 打算换个nvme硬盘， 然后再试试
