抡锤者

https://lcz.me/topic/22/qwen3.6-27b-deepseek-v4-flash跑hermes-资料截图-生成网页
fyi

不可能完全从windows切換到Linux，无论那个Linux发行版本都不能完全替代windows下的使用軟件習慣
我看你的清单是在将问题不断复杂化，诸如什么kvm之类的，强隔离是对资源和环境隔离，完全没有必要，除非你有一台至少12/24核心的cpu，且要运行一套复杂的调度系统，比如微服务之类的，必须用强隔离的方式，系统密度很高，甚至还要跑一套监控系统，那么pve之类的虚拟化是很有必要的。
如果是我，我会这么做，原则如下：
1，能跑Linux的服务均运行在Linux
2，不做虚拟化硬隔离，只进行容器化，比如docker-compose编排
3，直接使用Windows或者mac链接Linux服务器安装配置服务，远程调用即可，无需纠结客户端是什么系统
4，简单的问题不追求高级和复杂
没有任何一个解决方式是完全解决了问题，新的解决方案同样出现新的问题

cpu 5700x按道理最好，但是5700g也能用。
你或许应该关注下你的电源是否足够

这个项目我在3090上用Open WebUI是挺好用的
尽管最近他修复了几个issue之后没有在hermes调用的时候直接崩溃，但仍然不稳定，还需要观察，这里仍然使用的是3090
而且官网的最新的一些脚本也跑不起来，我最终使用的noonghunna/qwen36-27b-single-3090要比这个稳定多了

我买的京东自营3090 24g，从螺丝，包装，接口等来看，卖相几乎全新，和你这个差不多。
压力测试，340-350w,温度没超过70。
京东自营相对比较靠谱，但是贵1000多，到6999了
如果能折腾9700 32g比较爽。7900xtx也挺好
自己取舍

我不知道你们的速度如何，我用lucebox-hub项目的，单卡，单从对话写代码的速度和用gpt几乎一样(肉眼感觉)

[bench] === SUMMARY ===
Task                AR    DFlash      AL   Speedup     Score
HumanEval        34.90    113.92    7.92     3.26x          
GSM8K            34.77     79.32    5.41     2.28x          
Math500          34.17    116.09    8.63     3.40x      4/10
[bench] wrote /tmp/dflash_bench/bench_llm_results.json

实际测试也很快。刚搞完，其他还没测试，不敢多说

很简单。

“帮我把主力机叫醒（开机）。”
第一，你通过网络唤醒Linux，
第二，你调整主板通电即开机，装一个遥控的插排
任选其一

“帮我看看主力机现在卡不卡？”
主机卡不卡的命令或者借助监控，手段和方法太多了，我不在赘述

“主力机如果不忙，就用它的显卡跑大模型；如果它正在忙，你就自己去连 DeepSeek。”
写一个shell脚本就可以解决，定义如何判断忙不忙，如果不忙就做什么，诸如此类

“帮我把主力机上的某个软件（Docker）打开。”
一般推荐docker-compose简单的编排，一条命令就可以搞定。甚至你可以配置开机启动

你只需要在sudo 权限管理授权一个新用户赋予权限即可

内网穿透是需要一个公网Ip作为跳板的，跨国穿透的问题是延迟的问题
假设你在hk架设一台服务器，国内和国外分别与hk之间的速度是否够快。
软路由只能搞定手忙脚乱的场景问题，网络连接速度本身的问题仍然是最大的问题。

是的，如果用来跑模型可能是不够的。但是用来写代码或者玩游戏，长时间不关机还是非常好用的。顺便说我自己是32g macbook air,开很多窗口不关机，随时唤醒不

3090我在京东自营下单6999，三年质保

Linux运维,docker,kubernetes,golang,不知道能做什么

借此贴，再补充一个我的问题，如果用3090 24g双卡可行吗？是否有必要？