抡锤者

@williamlouis 現在把玩AI最好的地方就是中國. 不但有魔改, 電費低廉, 壞了修卡也有張哥

@Fery-Chen 以我認知, 7900xtx 只支持FP16, FP8, INT8. INT4就已經不支持了, 如果出INT4的版本, 7900xtx 應該跑不了嗎? 會很慢

@Fery-Chen 後續不知會不會有H3對7900xtx的優化, 可以跑快一點呢

@terry 好的! 謝謝

(7900xtx) 昨天推出的Minimax H3本地生成影像模型, 會比WAN/LTX更好嗎?

我問了deepseek v4 flash, 以下是它的回覆:

MiniMax H3
• VRAM 需求: ~20GB+ (GGUF 可能 ~12GB)
• 質素: 極高
• 音訊: 原生立體聲
• ComfyUI 支援:

好像正好可以部署在7900xtx運行. 更可以生成音訊, 不知有沒有大神有留意呢?

過往在新時代之下, 新的工種都會出現. 但AI時代實在強的可怕, 未來的人真的不知道要幹什麼了

終於搞定內網主機設立本地LLM, 經cloudflare穿透出外網, 令外部可以連接使用
本來想星期六日兩天先搞定本地LLM, 再搞定wan/ltz 本地影像生成.

如果要搞定穿透真費時間, 同步又要把LLM連接到hermes上.
在這裡留個言, 記得遇到情況, 一定要查看hermes的日志, 配合gemini/deepseek, 可以快速排除很多問題

妥妥的乾貨. 必須留個名. 感謝你的分享呀! 我也是7900xtx+32GB內存. 今個星期實戰一下

@abaalei 太好了, 有google連結! 這個星期立即試一下

@williamlouis 謝謝!

@terry 说:

本地老老实实Qwen3.6 27b

本地應該考慮 ,Qwen3.6 27b 還是 Qwen3.6-35B-A3B呢? 兩者都是24GB VRAM能吞下的。 多模態來說， 是密集裹是專家模型更強? 問了AI， 它也說不準

@williamlouis ubuntu 的生產力真的比windows 高嗎?

@terry 是的! 我會先自己學習一下, 再問問gemini. 謝謝!

昨天7900xtx到手, 新手馬上試了一下Qwen3.6-27B 本地模型...
過程中完全依靠gemini的幫助安裝 llama cpp + ROCM+QWEN , 可能我安裝的是 ubuntu 26.04 LTS, gemini也折騰了一陣子, 才順利把ROCM驅動裝起來.

~/llama.cpp/build/bin/llama-server -m ~/models/Qwen3.6-27B-Q5_K_M.gguf --gpu-layers 99 --port 8080 --host 0.0.0.0

https://rocm.docs.amd.com/projects/install-on-linux/en/latest/reference/system-requirements.html

把玩了一下, 速度體驗很好. 下一步再折騰一下, 跟隨各位大神用comifyUI 生成5秒視頻, 再把它們拼上試試.

有幸看到這個貼, 對於我來說是啟蒙了! 7900xtx , 等待到手

@Q-maria 有沒有成品可以觀摩一下呢? 我的7900xtx還未到手

@Famadalu-Us "R9700 这张卡，qwen3.6-27B 能跑的起来，仅仅是能跑起来，驱动 hermes 流畅工作生产力，还是不行"

大件事了, 我的7900XTX相比又會如何呢?

@566656661 说:

Vulkan

竟然是Vulkan更好! 我還以為 ROCm 是AMD官方的, 理應會更好呢.

@terry 说:

LTX

同樣設備下, 5秒和10秒, LTX配7900XTX需要多久呢?

@williamlouis