-
首先起因是昨天刚好周六和前同事（他现在在gpu 的头部大厂具体不透露了）吃饭聊到 建模（简单理解为建立一个场景去测试芯片ip 的功能，性能吧），说起来就是一定要考虑到模型“背答案”这个情况。我觉得“背答案”是最明显的一个点，深层次是以下几个问题：
1，任何模型天花乱坠，你只能使用他训练好的内容，再具体点只能使用在具体的场景下使用，超出一点都不行：
比如视频生成模型：比如你想生成一个特别的花，但是模型没有训练进去只有普通玫瑰那些，你想让他生成是基本不可能的事情
放到通用agi 这样模型上，如果你和他chat ，提问实际情况是，她的回答更像是吧数据打碎，根据你提供的问题搜索再拼接起来，然后按照通用的模板去回答和填表格一毛一样，这个点在早期更明显如下：
她一定要纠正我，然后说一堆重复的内容，对于这个场景就是废话。
然后打脸的来了，她纠正我cpu 不能乱序执行但是她回答的内容又说cpu 有很多架构的，也有乱序执行，我tm就想说 那你纠正个毛啊，直接说有很多种框架不就完了吗。
2，现在ai模型基本上不具备，总结能力，她没办法创造出一个新的东西出来，就是通过几个文章总结出一个结论都是相当困难的。
最后：但是现在很多小年轻和自媒体在吹嘘ai有多神奇，能把人代替，其实ai 本质上就是参数比较大的软件，然后他们很焦虑ai 会让他失业其实他们根本没有意识到，不是蒸汽机代替工人， 是会使用蒸汽机的工人代替了不会使用工具的工人，放到这个时代是一样的。 -
T terry 于 将此主题从 AI Agent 移至此处
-
T terry 于 将此主题固定
-
目前的AI都是属于20世纪80年代的ML这个分支下。
本质上输出的是一种统计学趋势，所以必然会有和统计学相同的一系列谬误。包括但不限于历史过拟合、幸存者偏差等。但是楼主说的这个问题，其实更复杂一些：
1、目前的AI调用，都不是裸模型了，或多或少，都有工程学加工。你的提示词并不是最终运算的唯一输入。甚至只是占比非常小的一部分。OpenAI又是最擅长工程化的公司之一。2、工程学加工中，为了防止AI发生严重的历史记忆问题，有很大的比重的上下文会被思考和联网检索占据。
联网检索的信息，其实质量上是非常劣质的。非常考验联网工具和AI交叉对比的能力。3、目前的语料已经基本穷尽了，所以为了提升模型的能力，近一两年模型的训练后训练比重非常大。这也就导致了更精准的对齐（也就导致了更刻板的答案）。
以上其实都影响AI最终产出。
所以楼主所感受的，并不一定是模型本身的问题，甚至不是算法、技术路线的问题，而是目前的大势所趋。是一个商业选择的结果。
-
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。 -
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。 -
目前的AI都是属于20世纪80年代的ML这个分支下。
本质上输出的是一种统计学趋势，所以必然会有和统计学相同的一系列谬误。包括但不限于历史过拟合、幸存者偏差等。但是楼主说的这个问题，其实更复杂一些：
1、目前的AI调用，都不是裸模型了，或多或少，都有工程学加工。你的提示词并不是最终运算的唯一输入。甚至只是占比非常小的一部分。OpenAI又是最擅长工程化的公司之一。2、工程学加工中，为了防止AI发生严重的历史记忆问题，有很大的比重的上下文会被思考和联网检索占据。
联网检索的信息，其实质量上是非常劣质的。非常考验联网工具和AI交叉对比的能力。3、目前的语料已经基本穷尽了，所以为了提升模型的能力，近一两年模型的训练后训练比重非常大。这也就导致了更精准的对齐（也就导致了更刻板的答案）。
以上其实都影响AI最终产出。
所以楼主所感受的，并不一定是模型本身的问题，甚至不是算法、技术路线的问题，而是目前的大势所趋。是一个商业选择的结果。
-
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。 -
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。
Geoffrey Hinton, one of the inventors of generative AI, gave this great answer in an interview when someone said to him of LLMs, “But they’re not really thinking; they’re just predicting the next word.” And he said, “So how do you come up with your next word?”
生成式人工智能的发明者之一杰弗里·辛顿在一次采访中给出了一个精彩的回答。当时有人问他关于LLM的问题：“但它们并没有真正思考；它们只是预测下一个词。” 他反问道：“那么，你如何想出下一个词呢？”
source: https://yalereview.org/article/ai-and-the-future-of-writing
-
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。
Geoffrey Hinton, one of the inventors of generative AI, gave this great answer in an interview when someone said to him of LLMs, “But they’re not really thinking; they’re just predicting the next word.” And he said, “So how do you come up with your next word?”
生成式人工智能的发明者之一杰弗里·辛顿在一次采访中给出了一个精彩的回答。当时有人问他关于LLM的问题：“但它们并没有真正思考；它们只是预测下一个词。” 他反问道：“那么，你如何想出下一个词呢？”
source: https://yalereview.org/article/ai-and-the-future-of-writing
-
系统 于 取消固定此主题
量化了之后，它吐出来的字只能信50%
