我直接把本地Qwen3.8都做成了在线deepseek API来用
-
Claude Sonnet 5.5 官方报价每百万 token 输入 2 美元、输出 10 美元;DeepSeek V4 Flash 便宜得多,284B 参数 13B 激活,输入 0.44 美元、缓存命中 0.014 美元——但一样要交钱,一样被限流。
我这边:0 元,无限次,数据不出门。
多数人跑本地模型停在 Ollama + localhost,在家能用出门抓瞎。教程教你端口映射加个密码,那是把裸服务挂公网,扫描器几小时找上门。
正确姿势:源站一行不改,门卫设在门口。
第一层,域名走 Cloudflare 橙云,家 IP 藏掉。
第二层,反向代理只查谁在敲门:先只放行 Cloudflare 官方 15 个回源 IP 段——否则任何人直连你家 IP、伪造一个访客 IP 头就进来了;再按真实 IP 做硬白名单,名单外一律 403。
第三层,LLM 网关做路由:一个域名一个 key,客户端只改 model 字段就切模型——27B 走 32G 卡,176B MoE 走 16G 卡,思考深度也编进模型名。
这套壳子不挑模型:Kimi-K2.6、GLM-5.1、Qwen3.5-122B-A10B、Gemma-4-26B-A4B、开源版 DeepSeek-V4-Flash,塞进去就是同一个 OpenAI 兼容接口。
妙处:家里 99% 日常走内网直连,不经门卫。网关崩了、key 丢了、公网入口撤了,家里一切照旧。
干货:橙云免费档 100 秒红线——100 秒不出响应头就 524,出流后 100 秒没字节也断。必须 stream,先实测首 token 延迟反推安全输入长度。

-
-
-
-
@paul-hou 我也是
-
-
