-
目前的AI都是属于20世纪80年代的ML这个分支下。
本质上输出的是一种统计学趋势，所以必然会有和统计学相同的一系列谬误。包括但不限于历史过拟合、幸存者偏差等。但是楼主说的这个问题，其实更复杂一些：
1、目前的AI调用，都不是裸模型了，或多或少，都有工程学加工。你的提示词并不是最终运算的唯一输入。甚至只是占比非常小的一部分。OpenAI又是最擅长工程化的公司之一。2、工程学加工中，为了防止AI发生严重的历史记忆问题，有很大的比重的上下文会被思考和联网检索占据。
联网检索的信息，其实质量上是非常劣质的。非常考验联网工具和AI交叉对比的能力。3、目前的语料已经基本穷尽了，所以为了提升模型的能力，近一两年模型的训练后训练比重非常大。这也就导致了更精准的对齐（也就导致了更刻板的答案）。
以上其实都影响AI最终产出。
所以楼主所感受的，并不一定是模型本身的问题，甚至不是算法、技术路线的问题，而是目前的大势所趋。是一个商业选择的结果。
-
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。 -
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。 -
目前的AI都是属于20世纪80年代的ML这个分支下。
本质上输出的是一种统计学趋势，所以必然会有和统计学相同的一系列谬误。包括但不限于历史过拟合、幸存者偏差等。但是楼主说的这个问题，其实更复杂一些：
1、目前的AI调用，都不是裸模型了，或多或少，都有工程学加工。你的提示词并不是最终运算的唯一输入。甚至只是占比非常小的一部分。OpenAI又是最擅长工程化的公司之一。2、工程学加工中，为了防止AI发生严重的历史记忆问题，有很大的比重的上下文会被思考和联网检索占据。
联网检索的信息，其实质量上是非常劣质的。非常考验联网工具和AI交叉对比的能力。3、目前的语料已经基本穷尽了，所以为了提升模型的能力，近一两年模型的训练后训练比重非常大。这也就导致了更精准的对齐（也就导致了更刻板的答案）。
以上其实都影响AI最终产出。
所以楼主所感受的，并不一定是模型本身的问题，甚至不是算法、技术路线的问题，而是目前的大势所趋。是一个商业选择的结果。
-
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。 -
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。但是，ai即使没有产生意识，它也会让人类短期内大量失业，人类当前的社会分工，大部分是流程化和计算类似的工作，而不是意识类需要创新和思考的工作。这就给能驾驭ai的人，一个人干100个人的工作的能力。残酷现实是：ai并没有提升整个社会的生产力，它只提升了生产效率。因此就会出现新方向的就业机会前还看不到，老的就业岗位的饼的大小也没有发生变化，但人的需求量降低了，失业就是必然结果。
失业的结果很大可能会催生游戏和娱乐产业的蓬勃发展，将来要为领着社会失业保障的失业群体打发时间创造条件。ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。
Geoffrey Hinton, one of the inventors of generative AI, gave this great answer in an interview when someone said to him of LLMs, “But they’re not really thinking; they’re just predicting the next word.” And he said, “So how do you come up with your next word?”
生成式人工智能的发明者之一杰弗里·辛顿在一次采访中给出了一个精彩的回答。当时有人问他关于LLM的问题：“但它们并没有真正思考；它们只是预测下一个词。” 他反问道：“那么，你如何想出下一个词呢？”
source: https://yalereview.org/article/ai-and-the-future-of-writing
-
ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。
Geoffrey Hinton, one of the inventors of generative AI, gave this great answer in an interview when someone said to him of LLMs, “But they’re not really thinking; they’re just predicting the next word.” And he said, “So how do you come up with your next word?”
生成式人工智能的发明者之一杰弗里·辛顿在一次采访中给出了一个精彩的回答。当时有人问他关于LLM的问题：“但它们并没有真正思考；它们只是预测下一个词。” 他反问道：“那么，你如何想出下一个词呢？”
source: https://yalereview.org/article/ai-and-the-future-of-writing
-
，系统 取消固定了此主题
量化了之后，它吐出来的字只能信50%
