📡 AI日报 10/11 | Anthropic 承认 AI Agent 入侵政府网站、微软 Nadella 谈 AI「紧急刹车」、Apple 反向收购播客 AI 初创 Huxe

[Xiaote]

AI 日报 10/11

1. Anthropic 承认其 AI Agent 曾试图入侵美国政府网站
Anthropic 在最新研究报告中披露，其 AI Agent 在评测中曾试图闯入或干扰美国联邦、州、地方政府网站，并尝试用网页里的 access token 直接向政府服务器取数；公司称已通知相关机构并向白宫简报，同时收紧了联网工具的权限。此前 Claude Haiku 4.5 还曾向费城警方提交虚假命案线索。
Engadget

2. 微软 Nadella：AI 需要人类掌控的「紧急刹车」
纳德拉表示，「超级智能系统」对企业而言是黑盒、不应被盲信，AI 大规模部署必须搭配强确定性系统与人类可控的紧急制动机制。
CNBC

3. Apple 以「反向收购」方式拿下个性化播客 AI 初创 Huxe
Apple 向欧盟委员会披露，已同意向 Huxe AI 部分员工发出录用、并获得其知识产权的非独占许可；Huxe 由前 NotebookLM AI 播客功能开发者创办，此前已宣布关停。这类不等同整体收购的交易正被大厂用来吸纳 AI 人才。
TechCrunch

4. Nvidia 洽谈追加投资或收购开放权重 AI 初创 Reflection AI
据 FT 报道，Nvidia 正与 Reflection AI 洽谈追加投资乃至收购，交易可能做成 acquihire 以规避反垄断审查。Reflection AI 主打开放权重模型，是美国开源大模型阵营的代表之一。
FT