抡锤者

@Hudson-Wong 是的，就是没ECC的功能，相当于普通内存。

我买的这个，精粤X99-TI D3 PLUS大板
4根DDR3 1600 16G 插满了（早知道买32G的了）现在只有64G内存，在犹豫要不要换128G。
四通道，最高1866MHZ。能插3个显卡 1个X16,2个X8。
但有个坑，能装ECC内存，但不支持ECC。买了才发现，难得换了。

精粤X99-TI D3 PLUS大板
支持 intel LGA2011-3针至强E5 2678V3/E5 2696V3/E5 2629V3/E5 2649V3/E5 2676V3/E5 2673V3/E5 2666V3/E5 2696V4
支持四通道 4个DDR3内存插槽 1333至1866MHz频率
兼容台式机内存条/服务器内存条
8相供电24颗MOS
前置1个USB2.0排针，1个USB3.0排针；后置4个USB2.0 4个USB3.0
8个SATA3.0；1个M.2 NVME协议接口,1个M.2 NVME/SATA协议接口自动识别
3个PCI Express X16 (其中二个是X8速率) ；1个PCI Express X1；1个PCI Express X4
1个千兆网卡

我已经试过了，64G内存，用的Q3_S,能跑，但我常驻的东西太多，内存不太够，还是准备换回27B_Q6K的版本算了，Q6感觉质量更稳定。

收到!已经删除。

我还是拿4.1flash来当最后的总管，很多问题就它能解决，其他模型绕半天都搞不定，它一来几分钟就找到问题了。

我内存只有64G，还要在CPU跑Embedding，内存不太够，就放弃了strata

背后可能是4090矩阵在做计算吧哈哈

我的主板精粤X99-TI D3 PLUS大板 ，三星DDR3 1600 ecc,结果这主板是个坑，能使用ECC内存，但不支持ECC,要支持只能内存容量减半。

最近的新闻显示国产的AI厂商就是大量购买5090在跑测试，梁圣前几天不是说的公司轻量化模型可在游戏显卡上稳定运行。这些推理任务能够极大缓解显存紧张的问题。这里面的游戏卡指的应该是RTS 5090或者RTS 4090这样的显卡，用来部署轻量化Agent是有可能的，恐怕不止Deepseek一家在干。所以最近显存高于20GB的显卡基本上都抢光了，不断刷新历史最高价。

是的，今天新闻已经发了，不能出口，

我让AI查了，但说的Strata限制"一次一个请求、无对话缓存"我就没下载了，不知道真假

让AI搞不就搞定了吗？

难道不是故障率太高，京东不让上了？

我也是买了就接到2次电话，第二次我一句话没说就直接挂了。

Heretic FP8 多维度 MTP 测试结果
内容类型 Prefill Decode MTP Accept%
code 529.8 tok/s 43.6 tok/s 94.5%
math 529.2 tok/s 43.7 tok/s 93.9%
prose 528.5 tok/s 43.1 tok/s 90.4%
tool 527.8 tok/s 43.0 tok/s 89.3%
short 527.1 tok/s 43.0 tok/s 88.2%
long_prompt 526.6 tok/s 42.9 tok/s 87.3%
平均 - 43.2 tok/s 90.6%

抱歉，模型是Qwen3.8-27B-Uncensored-FP8.Q6_K.gguf ，刚那个贴错了。

抄作业结果。

模型：mlasli/Qwen3.8-27B-Heretic-Uncensored-Q6_K-GGUF
显卡：R9700 32g

Heretic FP8 测试结果（Vulkan + R9700）
实际输入 tokens
Prefill tok/s TTFT (s) MTP Accept%
2,048 684 26.9 98.5%
32,768 623 78.1 99.0%
65,536 498 162.4 99.3%
对比论坛帖子（ROCm 10 + R9700）
输入 tokens 他的 Prefill 我们的 Prefill 他的 TTFT 我们的 TTFT
2,048 785.5 684 2.68s 26.9s
32,768 555.6 623 59.1s 78.1s
65,536 410.1 498 160.0s 162.4s
分析：

我们的 Prefill 速度接近（Vulkan vs ROCm 差异不大）
TTFT 差异大是因为他的 TTFT 只算 prefill，我们的包含其他开销
MTP acceptance 非常高（98-99%），说明 MTP 工作正常
Decode 速度约 45 tok/s，和之前测试一致

AI的分析对吗

多谢分享，但我试了，同样参数我显存不够（大概多了2g），我开机100M显存占用。

@wml-ai WLS2和win本来就可以分别配置2套hermes啊。为啥要搞个云端的呢?