《从"全家出国"到 Token 自由：一张 R9700 的家庭 AI 折腾记》
-
《从"全家出国"到 Token 自由：一张 R9700 的家庭 AI 折腾记》
折腾了一整星期，AMD AI Pro R9700（单卡）终于通过试用期，正式迁入家庭终端——不退换、不交接，直接落编。
底座选的是 PVE（Proxmox VE），虚拟化圈的老炮，稳到 STP 都不用防它起环路。在它上面自由拼搭虚拟设备，相当于自建了一套"家庭核心交换机房"，我的组网方案如下：
Ikuai 主网关：默认路由归它管，VLAN 划得明明白白，QoS 限得清清楚楚。家庭网络从此有了"交警总队"，再也没人和路由器抢带宽；
OpenWrt 旁路由：旁路接入、零侵入、零抖动。全家"出国"流量走它，端到端 VIP 专线待遇——不排队、不延时，连接稳得像 7x24 心跳包；
Intel 核显 SR-IOV 拆分：物理核显切成若干 vGPU——客厅 4K 解码给一个（全程不掉帧），远程 VM 给一个，办公、做实验、写代码各占一席。一个核显干三个工位，降本增效的天花板；
Ubuntu 独占 VM + vLLM：整张 R9700 划给它，私密公网隧道一打通，随时随地私网直连。TCP 三次握手毫秒级完成，响应速度比楼下快递小哥还快，24 小时在线的"AI 学习机 + 办公助手"就这么上岗了；
电力预算：这套系统待机不到 80W，满载 400W 上下，7x24 长开毫无压力——跟自建迷你数据中心比起来，电费约等于多开了一台冰箱，完全在可接受范围内；
Token 自由：飞书、微信、Telegram 全部接入，Token 流量跑满全链路，"Token 完全自由"正式达成——发消息就有回音，比固定电话"喂喂，有人吗"靠谱多了。
经过长期的测试、调优和血泪学习，最终定版 AMD 社区出品的 Qwen3.8-27B INT4（AutoRound）——选它的理由只有三个字：稳、稳、稳（重要的事说三遍，路由器重启除外）。单卡配置当然不完美，但本人定位清晰：学习与办公，不涉生产盈利，属于非生产流量，QoS 优先级摆在那儿就行。日常需求，40+ Token/s 的吐字速度绰绰有余。后期再把家里的智能电气设备接入，让网络与电力正式完成一次"握手"——智能家居这条线，下期继续折腾。
1、畅网6口 2.5G主路由（用了很久终于可以歇一歇了）
2、台式机闲着就科学的瞎折腾下
3、PVE虚拟化平台（后期可以随意安装各种虚拟实验机）
4、显卡监控R9700 GPU (AMD / ROCm)
5、远程办公电脑连接测试（稳定40+还是可以接受的）
6、先接飞书测试（秒回）
7、电耗监控
