我觉得一个工具还是看他用在哪里,怎么用。直接武断地说某一个卡是垃圾了的话,有点儿过于偏执。如果只是本地跑agent的基础对话,帮助基础系统维护,或者再最多就是生个图,解决一下一些自动化生产力的问题的话,应该还是问题不大的吧。毕竟有的事情是不愿意放到api上面去调用的,local LLM还是有一些价值的。主要看使用方向和侧重了!
不知道大家对于本地部署大模型,还有什么建议?以及应用上的实践呢?
我觉得一个工具还是看他用在哪里,怎么用。直接武断地说某一个卡是垃圾了的话,有点儿过于偏执。如果只是本地跑agent的基础对话,帮助基础系统维护,或者再最多就是生个图,解决一下一些自动化生产力的问题的话,应该还是问题不大的吧。毕竟有的事情是不愿意放到api上面去调用的,local LLM还是有一些价值的。主要看使用方向和侧重了!
不知道大家对于本地部署大模型,还有什么建议?以及应用上的实践呢?
由于有机会可以从单位接到一些小单,每个月输出一些宣传视频。按领导的意思是,花个几百块就能在网上生成了,我一听就感觉头一大……最后好说歹说,申请到每个月2K5左右的经费来制作宣传AI短视频。
那么问题来了,我觉得这样的经费是完全不足以购买NV显卡来生成视频的,如果能够来一张二手的7900XTX,还差不多。大约两三个月能够回本,即使到时候项目给砍了也不至于损失太大,自己还能留一张卡。
那么请问各位大大,现在AMD显卡生成视频的门槛高么?在油管上搜了一圈,除了老特,就几乎没人聊这个话题了。我只在当年本地玩儿SD文生图过,不知道视频是否现在A卡能够跑通!请各位不吝赐教,指点一下!多谢了!