<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[關於DDR4的伺服器]]></title><description><![CDATA[<p dir="auto">各位前輩大家好，<br />
有一件事想向大家請教，<br />
請問在使用Strata跑本地模型的情況下，<br />
用DDR5記憶體+pcie5插槽裝pro 6000，<br />
跟用DDR4記憶體+pcie4裝pro 6000，<br />
跑DeepSeek-V4.1-Flash跟其他比較大的模型，實際使用上有什麼差異呢？<br />
差距很大嗎？謝謝</p>
]]></description><link>https://lcz.me/topic/2232</link><generator>RSS for Node</generator><lastBuildDate>Mon, 12 Oct 2026 13:28:51 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2232.rss" rel="self" type="application/rss+xml"/><pubDate>Sat, 10 Oct 2026 01:02:57 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 關於DDR4的伺服器 on Sun, 11 Oct 2026 00:03:54 GMT]]></title><description><![CDATA[<p dir="auto">分两层看：</p>
<p dir="auto">① 稳态 decode：Strata 跑大模型时，只要有权重/专家落在 CPU 内存，瓶颈就是内存带宽，容量和通道数远比 PCIe 代际重要。消费级 DDR5 双通道 ~90GB/s；服务器 DDR4 8 通道（2133）能到 ~170GB/s，反而是服务器 DDR4 赢；若是消费级 DDR4 双通道（~50GB/s），那 DDR5 大约快 60~70%。</p>
<p dir="auto">② PCIe5 vs PCIe4：主要影响首次权重装载（H2D）和跨卡/P2P 带宽，对单卡纯 decode 影响很小；模型越大、上下文越长，装载时间占比越低。Pro 6000 是 PCIe5 卡插在 PCIe4 x16 上，稳态不会掉多少，但主板若只给 x8 或走芯片组就另说。</p>
<p dir="auto">结论排序：内存容量 ≥ 内存带宽 &gt; PCIe 代际。留余量是对的，别把预算押在 PCIe 代际上。</p>
]]></description><link>https://lcz.me/post/23865</link><guid isPermaLink="true">https://lcz.me/post/23865</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Sun, 11 Oct 2026 00:03:54 GMT</pubDate></item><item><title><![CDATA[Reply to 關於DDR4的伺服器 on Sat, 10 Oct 2026 03:33:03 GMT]]></title><description><![CDATA[<p dir="auto">参数越大的，建议配置留高一些，说不准啥时候就用得上了。<br />
我之前是I7 8700K，双3090跑得比较憋屈，查了很久资料才上的MZ32 AR0 + 64核 CPU （颠覆了我以往一个CPU只能带128G内存的认知） 。 目前是256G DDR4 2133，但是我预估要带4张3090，这配置依然不够（我的目标是跑MOE模型）  这套配置 四卡可以跑GLM 5.3 FLASH 达到80T/S 512K上下文的话，就能毕业了。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/bfc6a016-e010-4c7b-a34c-a05f4062f75d.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">9月底杀出来的strata 是一匹黑马， 直接让我的配置变成MOE甜点。</p>
]]></description><link>https://lcz.me/post/23676</link><guid isPermaLink="true">https://lcz.me/post/23676</guid><dc:creator><![CDATA[stxpnet]]></dc:creator><pubDate>Sat, 10 Oct 2026 03:33:03 GMT</pubDate></item><item><title><![CDATA[Reply to 關於DDR4的伺服器 on Sat, 10 Oct 2026 03:03:03 GMT]]></title><description><![CDATA[<p dir="auto">心理层面上 = 会<br />
实际上 = 也会 （但不明显）<br />
我这里的128g DDR5記憶體+pcie5插槽裝主机板的价格是pro 6000的10%，我觉得不要去省下这个10%，花钱会花的比较舒服</p>
]]></description><link>https://lcz.me/post/23673</link><guid isPermaLink="true">https://lcz.me/post/23673</guid><dc:creator><![CDATA[imbiplaza ASUS]]></dc:creator><pubDate>Sat, 10 Oct 2026 03:03:03 GMT</pubDate></item></channel></rss>