本地大模型部署的必要性分析，请大家投票。

[johnnybegood]

@叶镇源 第一显然不可能每个工作日都这么干， 第二显卡会贬值。 所以我觉得本地可以部署， 但是不要花太多钱， 比如弄个 7900XTX就行了， 不需要 5090什么的

[williamlouis]

这个我个人意见是不需要投票。
没有什么意义。
你到低需不需要一个本地大模型不是别人能投票决定的。
每个人自己需要什么难道还需要别人投票决定？
这个议题很荒诞。

[YDM]

本地模型的價值是資料主權，不是省錢也不是質量。如果你的場景有「資料不能出內網」的硬需求，本地是必選。
如果沒有，花 1~2 萬去追一個「比雲端最便宜的還差」的體驗，不划算。

[夏子杰]

说白了，就是看你的使用量，量大了云端成本就高了 ，大量使用的情况下就可以相互结合

[CHIA AN YANG]

當然要本地 才可以出色色圖文 哈,看需求吧,沒需求當然是雲端API便宜又快

[kos or]

@yangpiao said:

这钱买云端的似乎5年都用不完，质量还好的多

雲端一個月20美元 x 12月 x 10 年 =US$2400
10 年用不到半台DGX Spark的價格
這論述可以

[kos or]

@CHIA-AN-YANG said:

出色色圖文 哈,看需求吧

色色圖文有雲端Venice AI 但有點數限制
不小心太衝動用量過多只好充值一下當月點數

[mei li]

你问这个问题就是肯定是你不需要,本地模型就相当于完全属于你，而远程的API你只是一个使用权而已,而且可以无审查,也不用担心涨价问题,先了解了解是没什么问题的，等你有需要的时候再来去购买硬件使用也可以。

[rock shi]

DeepSeek涨价以后正好qwen3.8上线，就加入了本地算力，平均每天费用跟DeepSeek涨价之前差不多，算上电费平均每天还是六七块钱。有了本地算力以后以前不敢玩的现在敢玩了，实际上使用量是增加了。代价就是个人本地算力不能多请求，效率慢了很多。（设备双2080ti 22g魔改，vllm+qwen3.8-27b-fp8-16kv-128k，整机价格6500元左右）

[Che]

我入坑本地部署得到的最大教训就是不要本地部署。先建立你完整的AI工作流，跑一段时间后分析成本，再决定要不要做本地部署，否则真的就只是在“玩”。

[Bunsei]

其实说实在的，3.8的能力差不多等同于V4-Flash-0731，在 合理 的规划下，你可以把你的所有工作数据、跟客户沟通的资料、需求文档、解决方案、代码全部交给它处理。
现在我的工作状态就是，挂机一晚上让他写代码分析、实现需求，第二天上班一边水帖子，一边测试3.8挂机一晚上写的东西。下午再摸一下午的鱼。一晚上能完成之前3~5天的开发进度。
至于你说花几万整的这些硬件.... 那你手里不还有硬件吗。用两年出掉换新的就行，按照这个行情，价格会很坚挺的。

[terry]

@williamlouis 我弟最近很犀利啊，人品贵重，可登大宝。

[terry]

@CHIA-AN-YANG 老色批终于暴露本性，让我来细细审查你的犯罪作品。

[terry]

@Bunsei 可以理解慢一点，稍差一点的替代，尤其是24G的xtx + llama.cpp这样的无脑入门方案，噪音比涡轮卡低得多，事实上可以容忍。这玩意2年后还能卖个2000。

[williamlouis]

@terry
一周了。原来是感冒了。
现在的感冒症状太强烈了。
想住院疗养的节奏。

[terry]

@williamlouis 愿病魔早日战胜你，阿门！Steam账号记得留给我，你的遗产不能浪费了。

[imbiplaza ASUS]

最近开发了这一套minimax h3 studio, 不使用本地qwen3.8 不行，他能大大减少重复性的工作，
意思是，自动填入视频timeline

[terry]

@imbiplaza-ASUS 太复杂了，哥们，这样的UI太厚重，直接让Agent接手就行了。

[imbiplaza ASUS]

@terry
因为我想亲自体验一手一脚去雕刻创作作品的乐趣