<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[测试7900XTX上安装strata推理框架和一些感受]]></title><description><![CDATA[<p dir="auto">昨天把手头上工作做个小结后，就想尝试一下qwen flash next，因为网上说的token速度要有60+，现在用qwen3.8Q4UD只有30，所以诱惑力还是很大的，所以这次测试就说说自己的想法。</p>
<p dir="auto">配置64G内存，4060ti16g+7900xtx</p>
<p dir="auto">这个是个人使用的win系统电脑，平时是有大量常驻软件的，而且24小时不关机的。<br />
这次这个模型对我来说最大的瓶颈就是需要内存多，我本身软件就占了34G左右的内容存，所以使用之前要把很多浏览器和没用的软件结束掉。</p>
<p dir="auto">背景交代完，开始安装。睡觉的时候让DSH自己安装。</p>
<p dir="auto">测试一下网页对话：<br />
<img src="https://upload.lcz.me/uploads/64383cb8-d503-46a3-b51c-20d557ebf297.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /><br />
<img src="https://upload.lcz.me/uploads/ef59b02e-9d24-4843-be58-4fd1869717f5.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">速度是比qwen3.8Q4UD快，内存占用是真的高。<br />
我关闭模型内存占用12%，我打开模型内存占用会到60G左右，而且经常有100%<br />
<img src="https://upload.lcz.me/uploads/d684a600-7d06-4ccd-8937-d57ec18dc3aa.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">关闭模型就会爽快很多<br />
<img src="https://upload.lcz.me/uploads/25803414-ecc8-44b8-8a2a-2702eabb6d14.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">但是用qwen flash next模型会更卡，我这个机器暂时没办法测。<br />
我还没有接到DSH上，等我把手头工作忙完不需要qwen3.8Q4的时候，我再重新测一下。<br />
我的结论是，本身电脑需要很多常驻软件的话，这个模型不适合干活，跑的快的代价就是内存占用大，导致其他软件都不能打开抢内存。但是当服务器的话，应该是没有问题。</p>
]]></description><link>https://lcz.me/topic/2058</link><generator>RSS for Node</generator><lastBuildDate>Mon, 12 Oct 2026 15:39:18 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2058.rss" rel="self" type="application/rss+xml"/><pubDate>Sat, 03 Oct 2026 02:08:26 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 测试7900XTX上安装strata推理框架和一些感受 on Mon, 05 Oct 2026 07:14:10 GMT]]></title><description><![CDATA[<p dir="auto">跟我一样的显卡，不过4060ti 16g卡我就日常用，打打游戏，另外配了台主机，ubuntu，单卡7900xtx 24g+64g 2666内存双通+ 5700x跑IQ3_S，128k，kv int8，20-40 token，一般稳在30左右，勉强能用，也没继续优化，dsh使用没问题，我现在就是这样使用的。</p>
]]></description><link>https://lcz.me/post/22522</link><guid isPermaLink="true">https://lcz.me/post/22522</guid><dc:creator><![CDATA[tom23]]></dc:creator><pubDate>Mon, 05 Oct 2026 07:14:10 GMT</pubDate></item><item><title><![CDATA[Reply to 测试7900XTX上安装strata推理框架和一些感受 on Sun, 04 Oct 2026 06:30:20 GMT]]></title><description><![CDATA[<p dir="auto">这个我可以抄作业，这两张卡我都有</p>
]]></description><link>https://lcz.me/post/22260</link><guid isPermaLink="true">https://lcz.me/post/22260</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Sun, 04 Oct 2026 06:30:20 GMT</pubDate></item></channel></rss>