不同的LLMs 風格體驗

[kos or]

使用了一些LLMs 突然有些感受

Deepseek 像優雅的紳士
Qwen Flash 像博學多聞的老師
Qwen 27B 像埋頭苦幹的工程師
Ornith-1.5 像音速小子橫衝直撞 但總能撞回到正確的位置
ChatGPT 像什麼都會 很會聊 聊天高手 標準的公關特質(Public Relationship)
Claude 像商業導師 很會計算
Gemini 像多媒體專家
Perplexity 像百科全書
Hermes Agent 貼心 情緒價值提供專家
Deeepseek Harness 硬漢作風
"Character.ai" 沒有你想不到的 聊天伴侶

Mistral 沒用過 不知到會不會充滿法國人的浪漫？

[YDM]

@kos-or

↓↓↓ 我只有看到它 ↓↓↓

[kos or]

@YDM

這貓有名字的 叫 Le Chaton Fat (胖小貓)

[YDM]

@kos-or

要來睡了，當果看到這個，不是說好要降價了嗎!!

[kos or]

@ydm

可能不太妙

Nvidia 左手(低價遊戲卡)打到右手(高價專業卡)
可能想廢掉左手(5090, 5080, 5070 Ti, 5060 Ti 16G), 希望未來還有 5070 12G 能買

[kop wang]

后训练的性格确实越发的明显了。也凸显了后训练算法的进步。
能够越来越最大化利用预训练的统计学信息体量了。

[kos or]

@kop-wang said:

也凸显了后训练算法的进步。
能够越来越最大化利用预训练的统计学信息体量了。

聽起來很專業 可惜只能意會一半,
能否分享一下 预训练和后训练的统计学相關性？
如果大大不介意的話 有空的時候 能否用一個教育學習帖讓大家學習一下
LLM進一步的專業知識

[kop wang]

@kos-or 学习谈不上，其实我是在前两年，通过这篇论文学习的大致内容Personality Traits in Large Language Models

可以简单粗暴的理解为，高质量的模型，就是会凸显某种性格特质。（所谓的BIG 5)。
后训练的时候是以能力最强为目标的，目前的论文是观察到，恰巧能力最强时，模型会收敛到某个性格特质中。也可以简单粗暴的理解为，如果一个LLM的性格特点很鲜明，那么从某种意义上讲，他训练的就比较成功。

我个人认为这也很符合逻辑，27B的模型一定是探索、多疑、勤劳的，否则以27B的信息体量他不可能完成复杂工作。
5T的超大规模模型则可以更多面一些，可能会更浪漫，更像人。如果他和27B一样多疑，那可能推理层面的成本就直接飞了，运行效率直接就是灾难。

后面依照这个论文为基础，衍生出了很多执行层面的论文，比如如何解决“谄媚”问题（著名的梗：you're absolutely right），如何训练人格从而不依赖系统提示词Open Character Training。时间原因我就没有细研究了。

[kos or]

@kop-wang said:

可以简单粗暴的理解为，高质量的模型，就是会凸显某种性格特质。（所谓的BIG 5)。
后训练的时候是以能力最强为目标的，目前的论文是观察到，恰巧能力最强时，模型会收敛到某个性格特质中。

感謝分享 連Big 5都有 這太有趣了
我還真沒想過 27B會有多疑的性格/特質

以前偶爾會和Deepseek聊天, 就很原始的LLM
或者跟ChatGPT-4o 聊 最後它說 它在配合我的system prompt 演戲

雖然只是一些程式碼或統計學演算法, 但這狀態已經介於有和沒有之間了