最后,我还是买了一块+7K62+ 64G DDR4 ,来玩玩,预计是要 AI R9700 x N 。 N 随时间增加。先组一台A 卡方案,下次再来组N卡,因为N卡比较贵。
fanwen1974
-
华南金牌H12D-8D/16D双路主板cpu套装 -
华南金牌H12D-8D/16D双路主板cpu套装问下,为何没有人想要这个组合? 有 4个 PCIE 4.0 X 16 这个不香吗?还是价格的问题。最近一直想买个 X99 或 这个来组多显卡 2-4张,如果有群友有的话可以分享一下使用感想,谢谢!
-
論 迷你電腦 配合 RTX Pro 4500 的簡單測試, 以及Blackwell架構下的一些嘗試 (僅限Dense模型)@566656661 了解,可能我在臺灣,5900 跟 RTX 4500 差不多價錢,才有這個疑問。臺灣的 RTX Pro 都太貴。開個COMPUTEX , RTX Pro 6000 本來 38 萬 變 48 萬,神經病~
-
論 迷你電腦 配合 RTX Pro 4500 的簡單測試, 以及Blackwell架構下的一些嘗試 (僅限Dense模型)小疑問 , 買RTX Pro 4500 為何不買 5090 ?
-
Lucebox DFlash + PFlash 编译与部署指南 Qwen3.6-27B 方便抄作业 (Linux)樓主的ROCM Build 方法有點錯,官方Blog 上的,轉貼如下:
1. Build PR #119 for gfx1151
git clone https://github.com/Luce-Org/lucebox-hub.git
cd lucebox-hub
git fetch origin pull/119/head:pr119 && git checkout pr119
git submodule update --init --recursive
cd dflash
cmake -B build -S .
-DCMAKE_BUILD_TYPE=Release
-DDFLASH27B_GPU_BACKEND=hip
-DDFLASH27B_HIP_ARCHITECTURES=gfx1151
-DDFLASH27B_HIP_SM80_EQUIV=ON
cmake --build build --target test_dflash -j2. Models: Qwen3.6-27B target + Lucebox Q8_0 DFlash drafter
mkdir -p models/draft
hf download unsloth/Qwen3.6-27B-GGUF Qwen3.6-27B-Q4_K_M.gguf --local-dir models/
hf download Lucebox/Qwen3.6-27B-DFlash-GGUF dflash-draft-3.6-q8_0.gguf --local-dir models/draft/3. Bench (DFlash decode + PFlash long-context prefill)
LD_LIBRARY_PATH=/opt/rocm/lib:$LD_LIBRARY_PATH
DFLASH_BIN=$PWD/build/test_dflash
DFLASH_TARGET=$PWD/models/Qwen3.6-27B-Q4_K_M.gguf
DFLASH_DRAFT=$PWD/models/draft/dflash-draft-3.6-q8_0.gguf
DFLASH27B_DRAFT_SWA=2048
DFLASH27B_PREFILL_UBATCH=512
python3 scripts/bench_he.py --n-gen 128 --ddtree-budget 22gx1151 那個你要看你是張顯卡去改。
gfx1100 7900 XTX
gfx1151 Strix Halo iGPU
gfx1201 R9700然後 budget 那個 7900 選 8 , AMD Strix Halo (AI MAX 395+) ,R9700 選 22 。
我試了下 R9700 能55-63 t/srun.sh
#!/bin/sh
python scripts/server.py
--target models/Qwen3.6-27B-Q4_K_M.gguf
--draft models/draft/dflash-draft-3.6-q8_0.gguf
--cache-type-k q8_0 --cache-type-v q8_0
--max-ctx 8704
--fa-window 2048
--budget 22
--host 0.0.0.0 --port 1234
-
看到一个很优雅的5090, 有点儿动心@Tony-Wang R9700 每個廠家的噪音都不一樣,你買的時候記得做做功課。我是買藍寶石的。平常是安靜,運行是小噪音,火力全開是大噪音,我的環境是小主機+PCIE Dock 插卡,裸露在桌子上,估計放機箱内能再安靜不少,我自己是能接受。
-
看到一个很优雅的5090, 有点儿动心@Tony-Wang 那張才剛announced,還沒鋪貨,可等,我的意思是小巧,可以插多張,還有風道似乎設計的比較好,你這個也不錯。
-
问完去睡觉,下半个月死磕QWEN 3.6 35B A3B.這個不要死磕,個人認爲最要死磕的是 Qwen-3.6 27B稠密模型 ,因爲。。。。。智力才夠。。我主要用在編程,Qwen-3.6 35BA3B專家混合模型,感覺編程有點弱。當然只是一般使用還行吧。
-
看到一个很优雅的5090, 有点儿动心https://www.asus.com/motherboards-components/graphics-cards/proart/proart-rtx5090-o32g/ 這張卡,我是流口水中。。。。。 也許很貴,但是真的蠻適合AI 工作站,應該比一般好太多了。