Strata v0.1.30 支援 RX7900 XTX / AI Pro R9700 跑 Qwen3.8-Flash-NEXT
-
Strata v0.1.30 : An AMD Radeon RX 7900 XT / XTX, RX 9070 / 9070 XT or Radeon AI PRO R9700 on Linux works too (experimental): ./setup.sh --backend hip, chosen by itself on a PC with no NVIDIA card Strata can use. It installs ROCm without sudo and compiles the engine (one GPU, no images yet). Details: AMD HIP.
有7900 XTX 的使用者可以實測看看, 已經有網友實測成功 decode 55 tok/s
Strata 已把 AMD GPU 的 HIP backend 正式 merge 進主分支，因此 RX 7900 XTX 現在可以直接跑 Strata v0.1.27。
https://github.com/Niko1221/Strata我該選哪個模型？
以下差異主要在於模型大小（同一個模型，只是壓縮程度不同）：
模型 RAM + VRAM 需求 速度 品質 Q2_0 37.6 GB 最快 良好 IQ2_XS 39.2 GB 快 更好（推薦） IQ3_XXS 47.0 GB 較慢 很優秀 IQ3_S 54.8 GB 最慢 最佳：在已公布的測試中，表現可媲美完整未壓縮模型（僅針對原始模型測試） LCZ論壇實作
7900 XTX 的可能性探索｜单卡篇（四）：魔法打败魔法 - 7900XTX Strata 引擎跑Qwen3.8 Flash-Next 快得让你怀疑人生 by Ben Lee
至於 Nvidia顯卡 8G, 12G, 16G, 24G, 32G 的使用者請參考此帖
RTX 3080 20G 单卡跑 Qwen3.8-Flash-Next IQ2_XS：Strata 上机实测（128K 上下文 / int8 KV / MTP） by Simo
不管你信不信， 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了！ by JohnnyStrata PR #121 2026-09-29 的 commit 是 「Add gfx1100 HIP support with tuned prefill and bounded expert uploads」，目標就是 RX 7900 XT/XTX（RDNA3 / gfx1100）。
HIP 是什麼？技術 角色 NVIDIA CUDA NVIDIA GPU programming/runtime stack AMD HIP 類 CUDA 的 GPU programming API/runtime ROCm AMD 完整 GPU compute platform hipBLAS / hipBLASLt AMD 對應 cuBLAS / cuBLASLt 的矩陣運算 library @kos-or 最新版增强了中文的性能！
On this PC (RTX 5070, Q2_0, greedy), answers in Chinese are 15-38% faster: a concept explanation 55 -> 76 tokens/s,
在这台电脑上（RTX 5070，Q2_0 版本），使用中文输入时，响应速度提升了 15-38%：例如，解释某个概念时，所需的时间从 55 个字符/秒减少到了 76 个字符/秒。a translation 67 -> 81, code with Chinese comments 68 -> 79. An answer in Japanese: 63 -> 72.
翻译结果：67 -> 81；带有中文注释的代码：68 -> 79。用日语表示的答案：63 -> 72。On the Coder, the Chinese answers are 3-8% faster.
在“Coder”这个平台上，中文的回答速度要快 3-8%。 -
-
@kos-or 最新版增强了中文的性能！
On this PC (RTX 5070, Q2_0, greedy), answers in Chinese are 15-38% faster: a concept explanation 55 -> 76 tokens/s,
在这台电脑上（RTX 5070，Q2_0 版本），使用中文输入时，响应速度提升了 15-38%：例如，解释某个概念时，所需的时间从 55 个字符/秒减少到了 76 个字符/秒。a translation 67 -> 81, code with Chinese comments 68 -> 79. An answer in Japanese: 63 -> 72.
翻译结果：67 -> 81；带有中文注释的代码：68 -> 79。用日语表示的答案：63 -> 72。On the Coder, the Chinese answers are 3-8% faster.
在“Coder”这个平台上，中文的回答速度要快 3-8%。 -
-
Strata v0.1.30 : An AMD Radeon RX 7900 XT / XTX, RX 9070 / 9070 XT or Radeon AI PRO R9700 on Linux works too (experimental): ./setup.sh --backend hip, chosen by itself on a PC with no NVIDIA card Strata can use. It installs ROCm without sudo and compiles the engine (one GPU, no images yet). Details: AMD HIP.
有7900 XTX 的使用者可以實測看看, 已經有網友實測成功 decode 55 tok/s
Strata 已把 AMD GPU 的 HIP backend 正式 merge 進主分支，因此 RX 7900 XTX 現在可以直接跑 Strata v0.1.27。
https://github.com/Niko1221/Strata我該選哪個模型？
以下差異主要在於模型大小（同一個模型，只是壓縮程度不同）：
模型 RAM + VRAM 需求 速度 品質 Q2_0 37.6 GB 最快 良好 IQ2_XS 39.2 GB 快 更好（推薦） IQ3_XXS 47.0 GB 較慢 很優秀 IQ3_S 54.8 GB 最慢 最佳：在已公布的測試中，表現可媲美完整未壓縮模型（僅針對原始模型測試） LCZ論壇實作
7900 XTX 的可能性探索｜单卡篇（四）：魔法打败魔法 - 7900XTX Strata 引擎跑Qwen3.8 Flash-Next 快得让你怀疑人生 by Ben Lee
至於 Nvidia顯卡 8G, 12G, 16G, 24G, 32G 的使用者請參考此帖
RTX 3080 20G 单卡跑 Qwen3.8-Flash-Next IQ2_XS：Strata 上机实测（128K 上下文 / int8 KV / MTP） by Simo
不管你信不信， 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了！ by JohnnyStrata PR #121 2026-09-29 的 commit 是 「Add gfx1100 HIP support with tuned prefill and bounded expert uploads」，目標就是 RX 7900 XT/XTX（RDNA3 / gfx1100）。
HIP 是什麼？技術 角色 NVIDIA CUDA NVIDIA GPU programming/runtime stack AMD HIP 類 CUDA 的 GPU programming API/runtime ROCm AMD 完整 GPU compute platform hipBLAS / hipBLASLt AMD 對應 cuBLAS / cuBLASLt 的矩陣運算 library -
-
-
-
@terry 特哥，给你看下目前的测试成绩，7900XTX单卡，DDR5 64G，跑Flash Next - prefill/decode 中位数（tok/s）分别是 8K 799.6/95.9、32K 661.6/88.8、64K 535.6/75.3、128K 387.9/57.5、192K 303.9/46.0。 但是先卖个关子，等我发帖看细节。
这TM都快比我单卡27B还牛X了
-
-
-
prefill调优后特别稳，我是x99+ddr3 64G+7900xtx
@naniandemeng 这个是 IQ2_XS 模型， 可能工作起来幻觉和问题比较多了， 最低也得用 IQ3_XXS吧
-
@naniandemeng 这个是 IQ2_XS 模型， 可能工作起来幻觉和问题比较多了， 最低也得用 IQ3_XXS吧
@johnnybegood 按官方推荐设置部署的，用deepseek简单测试了下智商与能力14/14全过，先跑起来，后面有需要再换大点的模型。
-
我的测试数据是这样的，不知道为什么decode比你的差这么多 -
@naniandemeng 这个是 IQ2_XS 模型， 可能工作起来幻觉和问题比较多了， 最低也得用 IQ3_XXS吧
-
做点实际的作品，看看速度和质量呢？
請使用單個獨立的 HTML 文件，編寫一個基於 Three.js 的 3D 体素風格（Voxel Style）「寶塔花園」互動網頁。代碼必須包含完整的 HTML、CSS 和 JavaScript，並且可以直接在 Chrome 瀏覽器中運行。 核心場景要求： 1. 中式寶塔（Pagoda）： 在場景中央建立一座多層（如 5 层或 9 层）的中式寶塔。外觀需具備體素方塊特徵，擁有層層收分的飛簷和寶頂結構。 2. 禪意花園（Garden）： 圍繞寶塔布置花園。包含幾棵盛開的體素粉色櫻花樹、環繞的綠色竹林、一條用方塊鋪成的小徑，以及一個清澈的池塘。 3. 動態水體（Water）： 池塘需有動態的水面微波效果，並設計一個簡單的體素小瀑布，水流有向下的粒子或位移效果。 視覺與交互要求： 1. 動態光影切換： 介面上設計一個按鈕（或自動循環），可在「清晨、正午、日落、深夜」四種晝夜環境光影（Lighting）之間切換，不同时段会有太阳或月亮在适当位置（月亮的盈缺为随机)，寶塔的窗戶在深夜會發出暖黃色的光。 2. 相機控制： 整合 OrbitControls，允許用戶通過鼠標進行旋轉、縮放和拖拽視角。 3. 代碼規範： 所有 Three.js 庫（包括主庫、OrbitControls 等）請使用穩定且可用的 CDN 鏈接引入。代碼結構清晰，一次性生成完整可運行的單文件，不要使用省略號。 4.先规划需求，然后再拆分组件模块，以经典的软件工程思想来完成本项目。 5.尽快做出MVP，减少视觉测试，处理所有语法或运行错误，如需测试可在最后阶段 邀请人类协助进行简单测试。 -
@johnnybegood IQ3实测和Q4差距不大吗？
-
做点实际的作品，看看速度和质量呢？
請使用單個獨立的 HTML 文件，編寫一個基於 Three.js 的 3D 体素風格（Voxel Style）「寶塔花園」互動網頁。代碼必須包含完整的 HTML、CSS 和 JavaScript，並且可以直接在 Chrome 瀏覽器中運行。 核心場景要求： 1. 中式寶塔（Pagoda）： 在場景中央建立一座多層（如 5 层或 9 层）的中式寶塔。外觀需具備體素方塊特徵，擁有層層收分的飛簷和寶頂結構。 2. 禪意花園（Garden）： 圍繞寶塔布置花園。包含幾棵盛開的體素粉色櫻花樹、環繞的綠色竹林、一條用方塊鋪成的小徑，以及一個清澈的池塘。 3. 動態水體（Water）： 池塘需有動態的水面微波效果，並設計一個簡單的體素小瀑布，水流有向下的粒子或位移效果。 視覺與交互要求： 1. 動態光影切換： 介面上設計一個按鈕（或自動循環），可在「清晨、正午、日落、深夜」四種晝夜環境光影（Lighting）之間切換，不同时段会有太阳或月亮在适当位置（月亮的盈缺为随机)，寶塔的窗戶在深夜會發出暖黃色的光。 2. 相機控制： 整合 OrbitControls，允許用戶通過鼠標進行旋轉、縮放和拖拽視角。 3. 代碼規範： 所有 Three.js 庫（包括主庫、OrbitControls 等）請使用穩定且可用的 CDN 鏈接引入。代碼結構清晰，一次性生成完整可運行的單文件，不要使用省略號。 4.先规划需求，然后再拆分组件模块，以经典的软件工程思想来完成本项目。 5.尽快做出MVP，减少视觉测试，处理所有语法或运行错误，如需测试可在最后阶段 邀请人类协助进行简单测试。 -
-
Strata v0.1.30 : An AMD Radeon RX 7900 XT / XTX, RX 9070 / 9070 XT or Radeon AI PRO R9700 on Linux works too (experimental): ./setup.sh --backend hip, chosen by itself on a PC with no NVIDIA card Strata can use. It installs ROCm without sudo and compiles the engine (one GPU, no images yet). Details: AMD HIP.
有7900 XTX 的使用者可以實測看看, 已經有網友實測成功 decode 55 tok/s
Strata 已把 AMD GPU 的 HIP backend 正式 merge 進主分支，因此 RX 7900 XTX 現在可以直接跑 Strata v0.1.27。
https://github.com/Niko1221/Strata我該選哪個模型？
以下差異主要在於模型大小（同一個模型，只是壓縮程度不同）：
模型 RAM + VRAM 需求 速度 品質 Q2_0 37.6 GB 最快 良好 IQ2_XS 39.2 GB 快 更好（推薦） IQ3_XXS 47.0 GB 較慢 很優秀 IQ3_S 54.8 GB 最慢 最佳：在已公布的測試中，表現可媲美完整未壓縮模型（僅針對原始模型測試） LCZ論壇實作
7900 XTX 的可能性探索｜单卡篇（四）：魔法打败魔法 - 7900XTX Strata 引擎跑Qwen3.8 Flash-Next 快得让你怀疑人生 by Ben Lee
至於 Nvidia顯卡 8G, 12G, 16G, 24G, 32G 的使用者請參考此帖
RTX 3080 20G 单卡跑 Qwen3.8-Flash-Next IQ2_XS：Strata 上机实测（128K 上下文 / int8 KV / MTP） by Simo
不管你信不信， 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了！ by JohnnyStrata PR #121 2026-09-29 的 commit 是 「Add gfx1100 HIP support with tuned prefill and bounded expert uploads」，目標就是 RX 7900 XT/XTX（RDNA3 / gfx1100）。
HIP 是什麼？技術 角色 NVIDIA CUDA NVIDIA GPU programming/runtime stack AMD HIP 類 CUDA 的 GPU programming API/runtime ROCm AMD 完整 GPU compute platform hipBLAS / hipBLASLt AMD 對應 cuBLAS / cuBLASLt 的矩陣運算 library
