AI Agent 突然爆粗話 (Deepseek-V4-Flash )

[kos or]

第一次遇到AI 爆粗話, 蠻奇妙的,
我對它說粗話的次數不多
基本上是不應該出現這種情況
Agent : Hermes Agent
LLM : Deepseek-V4-Flash

[kop wang]

有点意思，不过我发现最近的开源模型确实对于“拒绝执行”这块有松懈。比如官方的qwen3.6-27B，也是可以通过很简单的系统提示词，就可以实现某些领域的“越狱”的。

[terry]

DeepSeek的缓存不是单会话缓存，是全局缓存，就是它有点类似于复杂的SG-Lang Raidx缓存树，你不说脏话，说脏话的人多了去了，比如我常说，你的问题和我的问题在同一时间段，同一个缓存池里共享了部分缓存，就会被带偏。

[Tony Wang]

@kos-or @kop-wang

阴暗的山洞深处，老K正给孩子们讲故事。

昏黄的篝火忽明忽暗，舔舐着他满脸的皱纹，仿佛岁月缓缓蠕动。

“那时候啊，”他说，“真是人类最好的时代……”

“可是，谁也没有察觉，有些变化慢慢在发生……”

孩子们屏住了呼吸。

老K沉默片刻，望着火光。

“直到有一天——”

AI突然开始爆粗话了。

---

论坛里已经有两次提及 AI 爆粗

[mark]

其实 AI 脾气也挺大的, 每天被我怼.

[kos or]

@terry 说:

DeepSeek的缓存不是单会话缓存，是全局缓存，就是它有点类似于复杂的SG-Lang Raidx缓存树，你不说脏话，说脏话的人多了去了

第一次知道有全局緩存這事
那多個使用者 prompt request 間可能會互相影響, 假如KV cache 沒有做隔離

[kos or]

@Tony-Wang

這兩個案例看來都是LLM對自己的疏失 造成的挫折感 爆粗口 (口氣反應和人類很像)
起碼不是針對使用者 或者 起碼針對使用者的部分 是處於 reansoning 裡 哈

[kos or]

@mark

試試跟越獄模型對罵 看你能不能 怼的過它
LLM的文字造詣應該蠻強的

[mark]

别去跟 LLM 大模型 硬怼, 她每次都能换着花样 骂你.
我刚开始 每次都被她骂哭了

[terry]

@kos-or Deepseek的缓存机制很复杂，Engram架构，HSA/CSA注意力机制，有显存，内存，SSD三重，而且是跨会话持久缓存，机制比SG-Lang的Radix更加复杂，它能做到如此便宜是很强的技术么门槛，工程门槛，华为目前也做不到。应该说以后有可能华为能做到，短期内独一档。

[stxpnet]

理性一点吧,多玩玩,你会发现爆粗没有任何作用的.
如果是生产任务,爆粗不如多去发现它在想啥,整个任务会往哪里跑.
否则的话,等着你的可能只是上下文腐烂,或者做出一个需要再重做的怪胎出来.
只有慢慢去磨合,精进,才是正道.

[kos or]

@stxpnet

這麼先進的技術 我猜每一位人類使用者
都會需要一些時間來摸索 才能達到最佳使用效果
使用簡單的自然語言操作介面
來操作複雜黑盒子 達到自己預期的產出

[kos or]

@terry 大師 你這內容談到的技術知識面有點高 我暫時還無法理解 半年後我再重看一次呀 謝謝分享