4060Ti 8G显存还能部署本地大模型吗？玩玩Hermes
-
@terry 注意他的词汇。是可以部署的锤子。玩玩呗。就是ai 的智力能让他流泪。RTX4060Ti 8GB这卡不行。
-
推荐 小霸王学习机 7900xtx 24G
-
涨价了 5989了。昨天还是5969
-
全部接Deepseek v4 flash的API？ 可以用到这个月月底。下个月 API会涨价。后续无力。还是研究显卡坞吧。
-
@Tiger 你这需求上4090浪费钱财。除非你还有别的项目
-
全部接Deepseek v4 flash的API？ 可以用到这个月月底。下个月 API会涨价。后续无力。还是研究显卡坞吧。
-
@williamlouis 卧槽，我说用了5天，1.45亿Tokens，怎么才30块钱，再看吧，看每个月消耗和能起到的作用值不值再说。
@Tiger 我做过测试。如果用在线的api 做一个作品。在同一个平台。你再起一个账号。只要提示词给力。你的作品就会被别人免费带走。你也可以试试。亲身经历。
所以我才来老特这混混。
本地算力对我们也一样重要。 -
@williamlouis 卧槽，我说用了5天，1.45亿Tokens，怎么才30块钱，再看吧，看每个月消耗和能起到的作用值不值再说。
@Tiger 在线算力的运用。我们一样被蒸馏。这就是现实。
-
@Tiger 你这需求上4090浪费钱财。除非你还有别的项目
@williamlouis 如果再加一个产品使用的短视频呢，20s，480P或者720P这种，还值得搞4090吗？如果不值得，降一点性能有啥推荐，大佬？
-
用什么你最好自己一次性计划好。至少想2年这个周期。买了部署上，在训练。都是时间。越贵越好这个理论适用于AI这个项目。你的需求 电商生图、日常上下货运营、客服回复。需要训练。你又给自己加项 要搞视频。生产多少。什么量。
我推荐你就是考虑 N卡。用来生产力可以直接 pass amd 了。剩下的就是你考虑下 未来的规划。这玩意太折腾。 -
用什么你最好自己一次性计划好。至少想2年这个周期。买了部署上，在训练。都是时间。越贵越好这个理论适用于AI这个项目。你的需求 电商生图、日常上下货运营、客服回复。需要训练。你又给自己加项 要搞视频。生产多少。什么量。
我推荐你就是考虑 N卡。用来生产力可以直接 pass amd 了。剩下的就是你考虑下 未来的规划。这玩意太折腾。@williamlouis 多谢多谢，我好好想想，其实短视频的需求来自于电商，套图之外最好有人使用产品的短视频，20-30s这种。我再观察观察，感谢！
-
嗯。不要轻易下结论。硬件入手就是二手。
-
@Tiger 你这需求上4090浪费钱财。除非你还有别的项目
@williamlouis 有没有可能，买个RTX3090 32GB显存的二手显卡，升级我现有的联想GeekPro台式机的破显卡？然后用它来跑ComfyUI、AnimateDiff生成图片、视频？这样估计也就3500-4000块差不多。
-
你有盈利项目就不要搞矿渣了。就你的实力。如果显卡报废。无损恢复的几率不大。老弟。还涉及到你营业受损。
-
你有盈利项目就不要搞矿渣了。就你的实力。如果显卡报废。无损恢复的几率不大。老弟。还涉及到你营业受损。
@williamlouis 有道理！感谢！
-
@Tiger 我做过测试。如果用在线的api 做一个作品。在同一个平台。你再起一个账号。只要提示词给力。你的作品就会被别人免费带走。你也可以试试。亲身经历。
所以我才来老特这混混。
本地算力对我们也一样重要。
