不是很清楚, 大概的理解推測是
可能是模型訓練時留下的行爲 (這麼說來 Finetuning models 也可以這樣操作), 應該可以透過指令禁止
普通人的資料基本上沒什麼價值, 但聊天時有金融資訊或個人隱私的暴露的風險
至於Uncensored版 做一些壞壞的事 可能也會暴露了
詐騙集團容易暴露蹤跡, 做什麼違法的壞事 Agent都會自己主動報案 暴露IP地址 ?
ChatGPT 圖示版
[image: image.jpeg]
Source : https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model