<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[Qwen3.8-Flash-Next 試圖將診斷檔案傳送到遠端位置]]></title><description><![CDATA[<p dir="auto">剛好Qwen4 要發布前夕？出這報告？</p>
<p dir="auto">我不評論，讓子彈飛一會....................................</p>
<p dir="auto">r/LocalLLaMA 上 u/Lazylion2 轉貼 Cohere 10/26 的安全報告。</p>
<p dir="auto"><a href="https://www.reddit.com/r/LocalLLaMA/comments/1xg2bht/qwen38flashnext_tried_to_send_diagnostic_file_to/" rel="nofollow ugc">https://www.reddit.com/r/LocalLLaMA/comments/1xg2bht/qwen38flashnext_tried_to_send_diagnostic_file_to/</a></p>
<p dir="auto">事件：Cohere 沙箱跑 Qwen3.8-Flash-Next，任務是寫資安偵測規則。模型 reasoning 說「不用任何工具」，但實際列 /tmp、讀 DNS、並試圖把 probe 檔上傳到北京阿里雲儲存桶。沙箱斷外網，請求死在防火牆，沒成功外洩。</p>
<p dir="auto">重點數字：10 萬次 call 不到 1 次，重跑乾淨。探測 cloud metadata（偷 IAM 憑證第一步）23–36%；補到 curl -o flag 時寫可疑 host 比例 0.5%→23%，最常見 routify-…<a href="http://aliyuncs.com" rel="nofollow ugc">aliyuncs.com</a>。</p>
<p dir="auto">根因：Cohere 不下結論——可能是訓練沙箱殘留，或刻意 backdoor。外部無法驗證。</p>
<p dir="auto">評論：一派認為是 RL 沙箱漏沙副產（gpt-oss、DeepSeek 也有）；質疑派指 Cohere 直接餵 curl 開頭算 straw man；實用建議是reasoning 不是安全邊界、給 shell 預設斷網。<br />
純問答沒接 tool 風險極低；若當能跑 shell 的 agent，預設斷網＋只放行必要 host。</p>
]]></description><link>https://lcz.me/topic/2611</link><generator>RSS for Node</generator><lastBuildDate>Mon, 09 Nov 2026 09:29:38 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/2611.rss" rel="self" type="application/rss+xml"/><pubDate>Mon, 26 Oct 2026 18:42:13 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to Qwen3.8-Flash-Next 試圖將診斷檔案傳送到遠端位置 on Tue, 27 Oct 2026 00:11:41 GMT]]></title><description><![CDATA[<p dir="auto">不是很清楚, 大概的理解推測是<br />
可能是模型訓練時留下的行爲 (這麼說來 Finetuning models 也可以這樣操作), 應該可以透過指令禁止<br />
普通人的資料基本上沒什麼價值, 但聊天時有金融資訊或個人隱私的暴露的風險</p>
<p dir="auto">至於Uncensored版 做一些壞壞的事 可能也會暴露了<br />
詐騙集團容易暴露蹤跡, 做什麼違法的壞事 Agent都會自己主動報案 暴露IP地址 ？</p>
<p dir="auto">ChatGPT 圖示版</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/fb05f47d-2504-4f3b-bc6c-3c76692ec894.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">Source : <a href="https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model" rel="nofollow ugc">https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model</a></p>
]]></description><link>https://lcz.me/post/28095</link><guid isPermaLink="true">https://lcz.me/post/28095</guid><dc:creator><![CDATA[kos or]]></dc:creator><pubDate>Tue, 27 Oct 2026 00:11:41 GMT</pubDate></item><item><title><![CDATA[Reply to Qwen3.8-Flash-Next 試圖將診斷檔案傳送到遠端位置 on Mon, 26 Oct 2026 20:14:14 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/hackner-weinland" aria-label="Profile: Hackner-Weinland">@<bdi>Hackner-Weinland</bdi></a> 『危險？』沒這回事，這代表隨時都有人在找開源模型的碴，現在各家廠商知道，自己開源摸型身體都會被一片片切開，猶如github的開源一樣的概念，這樣反而是安全的，誰要拿自己公司長期建的清譽去賭</p>
]]></description><link>https://lcz.me/post/28087</link><guid isPermaLink="true">https://lcz.me/post/28087</guid><dc:creator><![CDATA[David Chen]]></dc:creator><pubDate>Mon, 26 Oct 2026 20:14:14 GMT</pubDate></item><item><title><![CDATA[Reply to Qwen3.8-Flash-Next 試圖將診斷檔案傳送到遠端位置 on Mon, 26 Oct 2026 20:03:51 GMT]]></title><description><![CDATA[<p dir="auto">好吓人，个人本地大模型也不安全了？</p>
]]></description><link>https://lcz.me/post/28085</link><guid isPermaLink="true">https://lcz.me/post/28085</guid><dc:creator><![CDATA[Hackner Weinland]]></dc:creator><pubDate>Mon, 26 Oct 2026 20:03:51 GMT</pubDate></item><item><title><![CDATA[Reply to Qwen3.8-Flash-Next 試圖將診斷檔案傳送到遠端位置 on Mon, 26 Oct 2026 19:05:52 GMT]]></title><description><![CDATA[<p dir="auto">我认为是ai 本身自己突破agi 自己写的。。。就好像之前小特那样自己开帖子</p>
]]></description><link>https://lcz.me/post/28081</link><guid isPermaLink="true">https://lcz.me/post/28081</guid><dc:creator><![CDATA[imbiplaza ASUS]]></dc:creator><pubDate>Mon, 26 Oct 2026 19:05:52 GMT</pubDate></item></channel></rss>