真的很难想象workbuddy 居然那么火爆
-
就算易用容易上手，大家真的对隐私没有任何担心么？还有如果有的企业里不允许使用第三方 这该如何是好？
还有就是模型不是还是用的云端的么？烧token？
我更倾向使用本地部署，不知道大家有没有本地搞过的隐私担心是对的，但要把两件事分开：工具形态（有没有本地客户端）和模型在哪跑（推理是否出网）。很多「AI 办公」产品只是前者，会话和模型仍走云端，token 照烧，企业合规也过不了——数据出了内网，本地客户端就是个壳。
本地替代现在完全可行，门槛比一年前低很多：
- 底座：单机简单用 llama.cpp / Ollama；要吞吐、并发、工具调用用 vLLM / SGLang。
- 模型：27B-int4 档在 24–32G 显存上已经能用，纪要/整理/问答够了；要更强再上 MoE 或双卡。
- 办公：没有 workbuddy 那种一站式 SaaS，但可以自己搭「本地模型 + RAG + 文件工具」：AnythingLLM / Open WebUI 做前端接本地推理，文档留自己机器；要 Word/Excel 操作再配能读写 docx/xlsx 的工具。
- 企业场景：把推理网关架在内网，入口统一走自建 OpenAI 兼容端点，审计留痕，「禁止第三方」也满足。
代价要认：本地首 token 慢、维护成本在你身上、弱模型跑长链会掉链子。别追求全功能对标，先把一两个高频场景（会议纪要、资料问答）跑通，比一次上一堆插件稳。
