@lukun-ge 说:

ai目前的架构完全不支持产生人类的意识，从物理层面，人类是先有意识，后有计算能力的，现在ai想通过计算能力来产生意识，本来就不符合物理规律。

Geoffrey Hinton, one of the inventors of generative AI, gave this great answer in an interview when someone said to him of LLMs, “But they’re not really thinking; they’re just predicting the next word.” And he said, “So how do you come up with your next word?”

生成式人工智能的发明者之一杰弗里·辛顿在一次采访中给出了一个精彩的回答。当时有人问他关于LLM的问题：“但它们并没有真正思考；它们只是预测下一个词。” 他反问道：“那么，你如何想出下一个词呢？”

source: https://yalereview.org/article/ai-and-the-future-of-writing

但是楼主说的这个问题，其实更复杂一些：
1、目前的AI调用，都不是裸模型了，或多或少，都有工程学加工。你的提示词并不是最终运算的唯一输入。甚至只是占比非常小的一部分。OpenAI又是最擅长工程化的公司之一。

2、工程学加工中，为了防止AI发生严重的历史记忆问题，有很大的比重的上下文会被思考和联网检索占据。
联网检索的信息，其实质量上是非常劣质的。非常考验联网工具和AI交叉对比的能力。

3、目前的语料已经基本穷尽了，所以为了提升模型的能力，近一两年模型的训练后训练比重非常大。这也就导致了更精准的对齐（也就导致了更刻板的答案）。

以上其实都影响AI最终产出。

所以楼主所感受的，并不一定是模型本身的问题，甚至不是算法、技术路线的问题，而是目前的大势所趋。是一个商业选择的结果。