日期：2026-06-08
測試機：Vast.ai RTX 4080S 32GB
主要用途：TRELLIS.2 3D 生成、TripoSplat、LLM、CUDA/PyTorch benchmark

這份報告只整理 RTX 4080S 32GB 這台機器的實測結果。前面也測過 3090、5090、PRO 4000 等卡，但這裡不展開，只在結論處用一句話對照採購意義。

測試機資訊

這台機器已關閉。之後如果在 Vast.ai 看到同一個 machine_id=36413 或 host_id=124072，可以優先租回來。

一句話結論

RTX 4080S 32GB 在 TRELLIS.2 上可以穩定完成 4096 full-rembg，但它真正的價值不是把 3090 大幅甩開，而是 32GB VRAM：它可以跑 Qwen2.5 32B Q4 到 32K context，也能跑 Qwen2.5 32B Q5 到 8192 prompt。這一點是 24GB 卡比較容易開始緊張的地方。

如果 3090 24GB 只要 30,000 NTD，3090 的 CP 值仍然非常強。
如果 4080S 32GB 是 65,300 NTD，它的合理性主要來自 32GB VRAM，不是 TRELLIS.2 單次速度。

TRELLIS.2：robot 4096 full-rembg

這是最接近實際工作流的測試，也是最重要的一筆。輸入圖使用我們自己的 robot.jpeg，不是官方範例圖。

階段時間

輸出與資源

這筆是有效結果。之前有 no-rembg + DinoV2 fallback 的 2048 / 4096 測試，雖然技術上有跑完，但輸出品質失敗，不拿來當模型品質 benchmark。

TripoSplat：robot Gaussian Splat

TripoSplat 這次不是輸出 GLB，而是輸出 .ply 和 .splat。模型檔已下載到本機。

輸出檔：

outputs/ai-benchmarks/triposplat-robot/robot_262144.ply
outputs/ai-benchmarks/triposplat-robot/robot_262144.splat
outputs/ai-benchmarks/triposplat-robot/preprocessed_image.png

第一次 TripoSplat 推論其實有成功，但在存 WebP 時 PIL plugin 出錯；後來改成 PNG 後重跑，這一輪才列為有效 artifact run。

PyTorch / Transformers

這一組用來看基本 CUDA/PyTorch 算力和小型 Transformers 推論。它不是採購的唯一依據，但可以確認環境沒有明顯問題。

Synthetic kernels

Transformers generation

模型：Qwen/Qwen2.5-1.5B-Instruct，BF16。

llama.cpp / llama-bench

這是最能看出 32GB VRAM 價值的一組測試。所有測試都用 CUDA backend，全 GPU offload：

llama-bench -ngl -1 -fa auto

1.5B / 7B 基準線

14B / 32B 大模型測試

這裡可以看到 4080S 32GB 的意義。32B Q4 能跑到 32K prompt，32B Q5 也能跑 8192 prompt。這不是「跑得很勉強」的結果；測試過程中沒有 OOM，也沒有需要改成 CPU offload。

CUDA samples / memory bandwidth

這組是硬體層面的健康檢查，不當成主要採購依據。CUDA samples 本來就不是嚴格跑分工具，但它能幫忙確認 CUDA、PCIe、device copy 沒有明顯異常。