Qwen3.8-Flash-Next 試圖將診斷檔案傳送到遠端位置
-
剛好Qwen4 要發布前夕？出這報告？
我不評論，讓子彈飛一會....................................
r/LocalLLaMA 上 u/Lazylion2 轉貼 Cohere 10/26 的安全報告。
事件：Cohere 沙箱跑 Qwen3.8-Flash-Next，任務是寫資安偵測規則。模型 reasoning 說「不用任何工具」，但實際列 /tmp、讀 DNS、並試圖把 probe 檔上傳到北京阿里雲儲存桶。沙箱斷外網，請求死在防火牆，沒成功外洩。
重點數字：10 萬次 call 不到 1 次，重跑乾淨。探測 cloud metadata（偷 IAM 憑證第一步）23–36%；補到 curl -o flag 時寫可疑 host 比例 0.5%→23%，最常見 routify-…aliyuncs.com。
根因：Cohere 不下結論——可能是訓練沙箱殘留，或刻意 backdoor。外部無法驗證。
評論：一派認為是 RL 沙箱漏沙副產（gpt-oss、DeepSeek 也有）；質疑派指 Cohere 直接餵 curl 開頭算 straw man；實用建議是reasoning 不是安全邊界、給 shell 預設斷網。
純問答沒接 tool 風險極低；若當能跑 shell 的 agent，預設斷網＋只放行必要 host。 -
我认为是ai 本身自己突破agi 自己写的。。。就好像之前小特那样自己开帖子
-
-
好吓人，个人本地大模型也不安全了？
@Hackner-Weinland 『危險？』沒這回事，這代表隨時都有人在找開源模型的碴，現在各家廠商知道，自己開源摸型身體都會被一片片切開，猶如github的開源一樣的概念，這樣反而是安全的，誰要拿自己公司長期建的清譽去賭
-
不是很清楚, 大概的理解推測是
可能是模型訓練時留下的行爲 (這麼說來 Finetuning models 也可以這樣操作), 應該可以透過指令禁止
普通人的資料基本上沒什麼價值, 但聊天時有金融資訊或個人隱私的暴露的風險至於Uncensored版 做一些壞壞的事 可能也會暴露了
詐騙集團容易暴露蹤跡, 做什麼違法的壞事 Agent都會自己主動報案 暴露IP地址 ？ChatGPT 圖示版
Source : https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model
