@kop-wang said:

可以简单粗暴的理解为，高质量的模型，就是会凸显某种性格特质。（所谓的BIG 5)。
后训练的时候是以能力最强为目标的，目前的论文是观察到，恰巧能力最强时，模型会收敛到某个性格特质中。

感謝分享 連Big 5都有 這太有趣了
我還真沒想過 27B會有多疑的性格/特質

以前偶爾會和Deepseek聊天, 就很原始的LLM
或者跟ChatGPT-4o 聊 最後它說 它在配合我的system prompt 演戲

雖然只是一些程式碼或統計學演算法, 但這狀態已經介於有和沒有之間了

可以简单粗暴的理解为，高质量的模型，就是会凸显某种性格特质。（所谓的BIG 5)。
后训练的时候是以能力最强为目标的，目前的论文是观察到，恰巧能力最强时，模型会收敛到某个性格特质中。也可以简单粗暴的理解为，如果一个LLM的性格特点很鲜明，那么从某种意义上讲，他训练的就比较成功。

我个人认为这也很符合逻辑，27B的模型一定是探索、多疑、勤劳的，否则以27B的信息体量他不可能完成复杂工作。
5T的超大规模模型则可以更多面一些，可能会更浪漫，更像人。如果他和27B一样多疑，那可能推理层面的成本就直接飞了，运行效率直接就是灾难。

后面依照这个论文为基础，衍生出了很多执行层面的论文，比如如何解决“谄媚”问题（著名的梗：you're absolutely right），如何训练人格从而不依赖系统提示词Open Character Training。时间原因我就没有细研究了。

@kop-wang said:

也凸显了后训练算法的进步。
能够越来越最大化利用预训练的统计学信息体量了。

聽起來很專業 可惜只能意會一半,
能否分享一下 预训练和后训练的统计学相關性？
如果大大不介意的話 有空的時候 能否用一個教育學習帖讓大家學習一下
LLM進一步的專業知識

可能不太妙

Nvidia 左手(低價遊戲卡)打到右手(高價專業卡)
可能想廢掉左手(5090, 5080, 5070 Ti, 5060 Ti 16G), 希望未來還有 5070 12G 能買

要來睡了，當果看到這個，不是說好要降價了嗎!!

這貓有名字的 叫 Le Chaton Fat (胖小貓)

↓↓↓ 我只有看到它 ↓↓↓