前陣子比較忙 ，換了一個機殼，而且抽空來做昨天更新的deep seek v4.1 flash 跟舊版本的差別。

同一台電腦、相同 SGLang 部署設定，比較 DeepSeek V4.1 Flash 原版與 1017 更新版。
本輪結果：1017 單人生成約快 51%，8 人整批吞吐約高 36%；長文有效 Prefill 約提升 3～4%。

1. 比較的是哪兩個版本？

「原版」指 1017 更新前的 V4.1 Flash，不是 V4 Flash，也不是舊版 SGLang。日期依官方更新日誌，修訂碼則對應本次實際測試檔案，不表示是發布當天的第一版權重。

2. 軟硬體配置

3. 測試方式

直接透過本機 SGLang API 測試，繞過 Harness 介面。先暖機，temperature＝0、Thinking 關閉；速度項目固定輸出長度。

每版約 26 分鐘，先測 1017，再切換原版。英文合成輸入每次加入隨機識別前綴；實際輸入比表列目標多約 30 Token。

4. 生成速度與吞吐結果

速度單位為 tok/s，以下取中位數，越高越好。

「每人 Decode」估算首字之後的生成速度；「整批吞吐」以整批輸出 Token 除以完整耗時，包含首字等待與輸入處理，兩者不能直接相乘換算。

5. 長文輸入結果

單位均為 tok/s。長文項目只輸出 128 Token，完整耗時主要受輸入處理影響，因此整批輸出吞吐較低。

有效 Prefill＝輸入 Token ÷ 首字等待時間，包含排程與首字運算，不是純 GPU Prefill。

6. 首字延遲與請求成功數

延遲單位為秒，越低越好。P50 為中位數，P95 表示約 95% 的請求落在該延遲以內。

固定測試時間內，速度不同會產生不同樣本數。

7. 基本正確性

題組包含乘法、加法、JSON、短文代碼擷取、Python len() 與繁中文字串遵循。

這是 6 道簡單題的重複測試，用途是檢查基本輸出與穩定性，不能代表寫作、程式修錯、複雜推理或工具使用能力。

8. 結論與限制

本輪測試中，1017 的主要優勢在生成速度與併發吞吐；長文首字等待與有效 Prefill 有改善，但幅度較小。基本題組兩版均全對，沒有請求失敗。

本次使用自製測試程式，並非 Local Inference Lab 官方 benchmark。兩版各跑一輪，未交錯重測、未嚴格清除前綴快取，也未記錄每輪功耗、溫度及 GPU／RAM 峰值。DSPARK 會分批送出 Token，Decode 是客戶端估算值。因此，上述差異應視為這台機器、這組合成負載下的觀察結果，不能直接當作新版在所有任務中的固定提升。

最近meta 也出了一款開源的模型，但是依官方要求，需要6張RTX pro 6000 但是智商好像也不太行。我配對了一下，但是tps掉太多，感覺也不是真正適合拿來生產的工具，等有更好的模型出來，再來分享結果...