GPU价格太高,本地部署AI能赚钱吗?主播实际经验分享,AI音视频频道养活自己,帮助客户部署AI,两周收入抵得上一年!
-
最近由于硬件价格不断上涨,那么你可能买一张比较甜点的卡,这个价格就要 8,000 块钱往上了;可能再好一点的,几万块钱也都是有的。就有不少人质疑,说在本地部署 AI 到底能不能赚钱,到底有没有意义?我想大家可能是没有看过我早期的视频。我刚刚做这个中文分享频道的时候,还比较实诚,都是贴我频道的实际收入、频道后台截图。那个时候分享的是我的英语频道,比如说我分享它每个月能挣多少钱,一年能挣多少钱,是吧?像我分享的其中一个英语频道,大概一年就能挣个两万三四美金。而且那不是说我经营了几年的频道,那就是我频道从开始做,第一年就挣到这么多钱。

然后我当时在频道中分享了一个对我影响比较大的事情,就是坚定了我在本地部署 AI。是什么呢?我一直使用微软的 AI 语音来生产我的英语视频,直到有一天,这个 AI 服务也不知道怎么回事,是不是程序员咖喱吃多了,然后醉了,就出现了一个非常重大的 bug。它都不是生成的效果不好,而是不能够正常断句。就是输入一段文字给它,它的正常断句有问题,在不该停顿的地方停顿了。在这种情况下,我需要一个本地 AI 语音服务:第一,它能够确保我以后不再受到这种在线 API 波动的影响;第二,它要能够立刻接替我的云端 API,并且我的观众能够接受,因为我的观众已经习惯了我这个角色的音色。然后我尝试把它换成谷歌的语音 API,虽然生成的效果也不错,但是观众没有办法接受,他们已经习惯了。这个事情不处理的话,我这个频道可能要掉很多流量,甚至有可能直接就黄了。就是 VoxCPM 这个开源方案解决了我的问题。

那时我用的是 4060 Ti,所以我在这个视频中跟大家说,我说我这张 4060 Ti 一年能给我挣 20 万,这绝不是吹牛逼啊,我单个英语频道就能挣这么多。那个时候我再搞两三个英语频道,所以说本地部署 AI 在很多情况下都是能够挣到钱的,这是我个人的切身经历。如果说我当时没有因为这件事情,在压力之下去做本地 AI 部署,后来就没有这个频道。没有这个频道,当 YouTube 打击 AI 视频的时候,我的英语频道受到了很大的威胁,是吧?那么我就没有一个备选的生存方案。当然了,我现在把主要精力从英语频道转向了中文频道,并且我两个中国频道都过了 YPP,这就是这几个月发生的事情。

如果说我没有掌握本地 AI 技术,我就不可能建立这个频道,我也不可能在英语频道之外找到新的生存方法。当然了,后来证明 YouTube 又取消了对于 AI 频道的过分打击,我英语频道的流量又恢复了,只不过我已经没有那么多精力了,我已经在逐步减少英语频道的投入了。因为我不想未来生活在谷歌的阴影、生活在谷歌 AI 算法的这种恐惧之下。哦,对了,我还忘记说了,当时微软的这个程序员修复这么重大的语音 bug,你知道花了多长时间?整整两个星期都没有修复。后来我都已经放弃希望了,就是我已经使用本地技术接替生产了。过了两周之后我去看,它这个 bug 还没有修复。你说如果你的命运掌握在这些大公司手里面,在你遇到事情的时候,你会发现自己多么渺小。你去起诉微软吗?别人会屌你吗?没有用的。你的频道的死活对于微软来讲根本就不重要。甚至我们自己认为每个月给微软付十几二十美金,觉得自己就不错了,觉得自己就是个客户了,其实你这个屁都不是。整个语音服务对于微软来说,可能总体上就是九牛一毛,甚至连九牛一毛都不如。

那么我再分享另外一个,还是我自己的故事。之前在频道早期,我不是给大家展示了大量我自己开发的、给客户做的 AI 内容生成系统吗?那个时候还没有 agent,没有这么智能,但是客户就需要这个东西。整个技术实际上最终跑起来以后,大部分流程里,除了语音识别这个模块放在本地、用本地算力,几乎所有算法都是由 DeepSeek V3.2 驱动的。但是在这种情况下,我的客户依然要求我必须要在本地有备份算力、有备份方案。然后我就跟他讲,我说现在本地的方案不成熟,你就算花钱买这些卡,你买这些昂贵的卡也没有用。当时他买了 4090 48G,而且买了四张,我说是完全没有意义的。但是客户依然坚持要求我提供本地解决方案。后来没办法,我也给他糊弄了一下,因为这个不在我们合同之内。我们没有签正式合同,但是有聊天记录,有这种约定。这不在我们约定之内,我本来是不想搞的,但是后来我想了一下,我自己都不那么信任云端服务,那么客户不信任也在情理之中。而且客户很有可能就是对 AI 技术有一定的新鲜感,他还想自己去尝试一下。
过了几个月,当这个千问 27B 能正常工作、能正常驱动他的社区的时候,他那个流量比我这个社区流量大多了,知道吗?那小语种市场,流量非常高,就是论坛,是用那个 Discourse 做的。我在以前的视频中也贴过图,就是我开发的这些代码,甚至我都给他贴了一部分出来,因为那些不敏感的功能我都给他贴出来了。你想一想,如果客户没有这样的折腾欲望,没有提前去买 4090 这些卡,当时他的 4090 才两万块钱出头,买的两万两千多块钱吧,当时他买了四张。那你想一想,你后面是不是要面对硬件涨价?而且当你的本地算力能够支撑你这个论坛的时候,你省下来的 API 费用是不是实实在在的盈利?这个就是非常现实的例子。

大家看我的论坛,我这个什么虚拟儿子小特,每天可能巡视一下论坛,做一些管理,回复一下帖子,是吧,做一些简单的回应。大家可能觉得他的 API 消耗费用也不高,一个月几百块钱,是吧?如果不做其他开发,就单维护的话,可能一个月 200 块钱都花不到。那你觉得在本地部署它意义在哪里呢?那就是因为你没有用到巨量的 tokens 消耗。你只有像我的客户一样,掌握了非常大的论坛,而且有好几个同时在做,你就会知道,当这个 tokens 消耗起来、当量上来之后,你那钱袋子是不够看的。我的客户别的不说,随便给我做一单,我可能只需要花个把月的时间做出来,甚至第一版我就花了不到两个星期就把它搞定了。他给的钱是我一年的收入,明白了吗?相当于我频道一年的收入。你想,连这样的人在面临巨量 tokens 消耗的时候都觉得肉疼,你说本地部署有没有意义呢?
当然,大家经常提及的去审查需求、数据隐私需求,这些都是客观存在的,但是它并不是你在本地部署的唯一理由。并不是所有人在本地部署 AI 都是为了生产小黄片、为了捞偏门,或者搞什么反动事情,没有,知道吗?就是你自己没有经历过现实的业务,或者说你在这个社会上的存在感很低,在你的世界中,你在本地部署要么就是傻、智商不够,要么就是坏、想要干坏事、想要捞偏门,那只是你对 AI 的理解有问题。

那么我们论坛中有很多高手,有很多富豪,是吧?人家可能暂时也不需要挣钱,人家就是出于个人爱好,在自己的别墅里、在自己的小院子里,或者在自己的大平层里面,是吧?人家就是买了几个 DGX Spark,或者买了 RTX Pro 5000、6000,人就是在玩,就是在玩 AI。说不定某一刻,他突然间想到了一个创意,是吧?人家有足够的资金储备,有足够的社会资源,然后现在又掌握了 AI 技术,他想到了某个创意,就能够迅速把它兑现。很有可能就是好几年没有什么正儿八经的收益,纯粹是穷折腾,三年不开张,但是开张很有可能会吃 30 年。这个就是本地部署 AI 的意义。
还有我们对于社会发展潮流要有一个基本认知,就是 AI 可以说是当下所有技术的重中之重,是皇冠上的明珠。人类最重要的、最有影响力的这一批人,他们都在搞 AI。这个产业一定会是最火的,它能够创造出最多的致富机会。我们这些普通的屌丝,由于处于社会底层,很有可能吃不到其中大的蛋糕,但是有一个例子你可以参考一下。比如说民国时代,是吧?中国穷得跟屌一样,你在家就是面朝黄土背朝天,吃糠咽菜,粗粮你都不一定能吃饱。但是如果你能进入上海滩,进入十里洋场,去给这些有钱人端茶倒水、当服务员,你的生活水平是不是比老家那些小地主们都要强得多啊?
那像我,我现在是沦为社会的边角料,但是我的社会认知还在,我的意识还在。如果说我想找一个方向、找一个事业进去打杂,进去端茶倒水,是吧,茶楼酒肆、天桥说书,那么我就一定要选择这种非常赚钱的行业,就是 AI 行业。那么我可能别的不会,就这个三寸不烂之舌。我讲什么呢?以前我是讲政治、科技,尤其是我讲实话,我做时政方面的内容还是比较屌的。我的英语频道我多次给大家展示过后台的点击率、点赞率,包括评论的数量,是吧?99% 的点赞率,超过一半的播放完成度,然后百分之十几的点击率,这就是非常硬核的、在任何领域都可以装逼的数据,是吧?我就擅长这个东西。

但是如果说讲政治有风险,就是中国有中国的政治正确,西方也有西方的政治正确,没有所谓的言论自由。如果在这一块我觉得混得不如意,处处受限、不自由,哎,那我就来讲科技。讲科技虽然我也是大嘴巴,是吧,讲 AI 虽然我也是大嘴巴,但是这一块容错率比较高,不会因为自己对于某个技术的看法出了错误就直接社死了,是吧?这个行业、这个领域的宽容度还是比较高的。像我前天在评论区跟网友互喷,嘲笑网友在评论区人均 RTX Pro 6000,现实中人均 3060,那么就有网友去论坛打我的脸。这种事情已经发生了,但是不妨碍,不会让我这个频道挂掉。
一个新兴的、能够改变人类社会的领域,你在这个领域多学一点技术,哪怕你不是去当社会的弄潮儿,你不是台面上的玩家,不是那些顶级科技新贵,你就是个很普通的修理工、钟表匠、理发师,是吧?只要你在这个行业掌握一技之长,你本地部署 AI 绝对不会亏的。你能掌握这样的能力,现在整个社会还没有完全向 AI 转向,只是跟技术相关的程序员也好,还是做技术的人员也好,跟计算机、自动化高度相关的这些行业有可能受到了 AI 的冲击,那么整个社会的生态还没有向 AI 迁移。一旦整个社会开始向 AI 迁移,我跟你讲,像很多传统行业,比如医疗、金融,是吧,这些高净值行业,或者社会中的有些精英、手头上现金比较多的、焦虑感比较严重的这些社会精英、中小企业家,他们会有非常强烈的隐私需求,但是他们也不得不拥抱 AI。到那个时候,本地部署 AI 的价值会大大提升。

另外我们现在觉得本地部署 AI 不那么给力、不痛不痒,最主要的原因是什么呢?因为现在的本地模型,哪怕我们比较牛逼的千问 27B、千问 3.8 Flash Next,是吧,它跟在线的 DeepSeek、Claude、GPT 相比还是有差距的。但是我们不要忘了,硬件的门槛在不断被拉低,像 Strata 这种新的架构不断出来,硬件门槛在不断被拉低。然后随着以后各种新的计算卡从数据中心退役,成为洋垃圾,是吧?我们本地在 AI agent 本身进步的加持下,使用云端 AI 技术帮助本地 AI 技术进步,那么以后我们在本地部署 AI,很有可能跟云端的差距就会缩小到一个月、两个月这样的差距。这个就是能够接受的、非常不错的差距,它就具有了现实生产力。
现在的本地 AI 已经有了相当的生产力,可能再过个一年两年,它应该在 99% 的场景下都可以替代云端模型,再加上它的隐私性、安全性、去审查性,是吧?你说它能够没有市场需求吗?你掌握这个东西,杀过猪、见过猪跑,你不一定现在就有机遇,但是当机遇来临的时候,一定是你准备好的人、掌握了相关技能的人,能够分一杯羹。

大家不要忘了,我在视频中反复给大家强调的,不要认为自己是社会精英、是宇宙的中心,是吧?我们要有清晰的自我定位,有清晰的自我认知。我们就是在这个最火的领域、最火的科技领域,去掌握一技之长,将来能够给那些做大事的人端茶倒水,是吧?或者帮那些挖金矿的人给他们的铲子提供维修保养,或者卖铲子给他们,是吧?帮他们做做技术服务、帮他们理理发。这个就是我们的生存之道。好吧,本期视频就到这里。如果你对我的某些观点不太认同,想要对我进行批评指正,或者与我产生了某种价值观共鸣,想要跟我交流讨论一下,都欢迎在评论区留言,或者到论坛去发帖交流讨论,我们下期视频再见。
-
-
-
-
这点钱我弟一个小项目一个星期的收入。
@imbiplaza-asus -
-
赞成楼主的见解!AI大潮目前还是在口头上,真正渗入到各行各业还需要时间。这是一波非常大的红利!
