@Fred @Fred 我的大玩具也装好了，哈哈哈～～

谢谢 好的 收到指导。

@y2k 對大佬崇敬之心油然而生，不為別的，就單為這顆知恥近乎勇的心

@williamlouis 关键词rock64，但是这是9年前的产品了。现在还是要用树莓派，我这个4g内存。现在新树莓派4g肯定比这rock64 性能高。当时买1000多点人民币好像。

分享不错，DDR3那么便宜你不上64？32你的场景也够用了。你就Llama.cpp跑 qwen3.6 27b就行了，该有的技术都会有。

@Hank-Wang 来发使用体验，记得截图，国外不要折腾洋垃圾，人工贵。

单卡大显存最省心。

@terry OK ,谢谢，马上处理掉

@pilipala 楼主自己说的啊，游戏还是要打的，要是steam OS就能不用win也能畅玩了。 我也有点好奇，因为我也有类似的想法，所以我去问了下chatGPT，它告诉我大多数文档都是默认Ubuntu的，作为Arch得自己修包，所以还是不太行。

@菠菜多 基础机构都这么LOW了。3090就行

找个风扇吹一下就好，最好是能够照顾到电源接口。反正我之前都是600W满功耗跑了好几晚上，确实是比较烫的。 所以后面我准备弄两个额外的风扇对着吹，这样应该就很保险了。

VLLM_ATTENTION_BACKEND=FlashInfer VLLM_PROFILER_ESTIMATE_CUDAGRAPHS=1 python3 -m vllm.entrypoints.openai.api_server --model /models/qwen/Qwen3.6-27B-FP8 --trust-remote-code --max-model-len 102400 --kv-cache-dtype fp8_e4m3 --gpu-memory-utilization 0.55 --enable-chunked-prefill --enable-prefix-caching --max-num-batched-tokens 8192 --max-num-seqs 2 --speculative-config '{"method": "mtp", "num_speculative_tokens": 3}' --served-model-name "Qwen-27B-FP8" --enable-auto-tool-choice --tool-call-parser qwen3_coder --reasoning-parser qwen3 --host 0.0.0.0 --port 8000 [image: f848e14d-f6a8-4b07-bc00-ae5226fce67c.jpeg] 我用的这个参数，然后comfyui做的生成视频工作流，研究了一晚上暂时没有崩过，comfyui跑起来的额时候能到40GB左右的样子通常不会超过40GB。vllm我之前设置的0.58也不会崩，后面为了保险降到了0.55；不过我这是100K上下文，暂时就我一个人在用。 不清楚如果后面有并发了会不会崩。

@terry 是的我就是看上32g的，那我那個6600xt剩下打遊戲的功能了⋯

@gxmulyj RTX Pro 5000 72G上Wan2.2的话，分享几个实测经验供参考： Wan2.1 I2V 14B的显存占用： fp8权重约16GB，加上teacache缓存、latent、VAE解码，全程约28-32GB 72G显存完全够跑官方原生workflow，还能开高分辨率（比如720p原图+大tile） 速度方面，50步+teacache 0.06约40-60秒一帧（看分辨率），比4090/48G舒服不少 提速的几个关键点： Teacache开0.06-0.08，不影响质量但速度快30%-40% 用K采样器+DDIM替代默认的Euler，同质量步数少 多卡时注意tensor split分配——72G单卡其实比两张40G分卡更好，不用跨卡通信 想更快还可以： 试试KJ工作流（比原生Wan2.2 workfow快，特哥也推荐过） 降分辨率到512×512出片后再用ESRGAN放大，抽卡效率更高 72G目前是Wan2.2的甜点区域——单卡能跑完整工作流，又不会像48G那样需要超分或降低配置。期待你到手后分享实测数据！

@David-Zhang 感谢回复 只跑模型 想生产下

@applejuice 3090早特么停产了，100%矿卡，给你保你相信就没啥问题，关键是互信。

@joker_chang 多卡推荐长城的N系列，我已经用上了。你的配置单里是G系列吧，也很不错。

请问用什么插件 让4张3090并行出视频

我看，简直就是抢钱，但你其实机会挺大，现在AI就是兄妹狂飙，英语汉语的天下，你懂西班牙语，结合当地流量机制，就是翻译汉语内容也发了