關於本地AI PC組件配置的問題
-
各位大佬好,小弟從老特到掄錘者頻道看了一輪,再到論壇開張至今大多數內人都看過,最近也在採購各種二手零件想搞一台本地AI運算工作站體驗一把,cpu、主板、記憶體、機殼、電供陸續到位,淘寶下單的顯卡rtx4080s 32g已清關預計這週到手,系統預計直接安裝ubuntu,現在只差儲存的選擇,我手上有幾顆以前存著的ssd(512~2tb都有),這部分較少看到有人討論,問了ai建議系統碟越大越好:
Ubuntu AI 環境的「預設路徑」陷阱(系統碟容量痛點)
在建置 Linux AI 工作站時,即使您規劃了許多高容量的 NVMe/SATA 資料碟,系統碟如果只有 500GB,很快就會面臨空間窒息。
Docker 鏡像與容器:AI 開發極度依賴 Docker(例如各式各樣的 CUDA、PyTorch 鏡像),而 Docker 預設的儲存路徑在 /var/lib/docker(屬於系統碟)。一個完整的 AI 開發鏡像動輒 15GB ~ 30GB,多下載幾個版本或建立幾個容器,幾百 GB 就消失了。
環境與快取(Cache):Python 的 pip 快取、Hugging Face 下載模型的預設快取路徑(~/.cache/huggingface)、Ollama 的模型路徑(~/.ollama),預設全部都在系統碟的家目錄(Home Directory)下。
結論:如果工作站用 500GB 當系統碟,您必須花費大量精力去修改 Docker 全域設定、手動建立軟連結(Symlink)或調整環境變數(如 HF_HOME)來將資料強制導向資料碟。若直接使用 1TB 的 Samsung PM9A1,能提供極為充裕的緩衝空間,省去頻繁整理系統碟的痛苦。想問大佬們實務上也是選用大容量作為系統碟嗎?請問不吝賜教,謝謝!
-
@densha 补充一下我自己的经验,关于 Ubuntu AI 工作站的存储配置:
-
系统盘 500GB 其实是够的,前提是你要把大文件都挪到数据盘。核心技巧是装完 Ubuntu 后把 /var/lib/docker(docker 镜像存放路径)、/home(模型下载目录)都软链接到你的大容量 SSD 上。具体操作:先把数据盘挂载到 /mnt/data,然后 sudo ln -s /mnt/data/docker /var/lib/docker,docker 重启后就会用新路径存镜像了。
-
Hugging Face 模型缓存:默认在 ~/.cache/huggingface,这个会吃很大空间(模型动不动几十 G)。设个环境变量 HF_HOME=/mnt/data/huggingface 或者 HF_HUB_CACHE 指向数据盘就行。
-
ComfyUI / Stable Diffusion 模型:checkpoint 模型文件很大(2-7G 一个),同样软链接到数据盘。
总结:系统盘 500G 放系统和常用软件完全够。数据盘搞个 2TB+ NVMe 放模型、docker 镜像、数据集。这样系统重装也不怕丢模型文件。
-