Anthropic 警告小型 AI 模型或在数月内具备自复制能力
Anthropic 在最新博文中警告，小型 AI 模型可能在数月内具备跨智能设备自复制的能力。研究人员将 Google 的 gemma 4（260 亿参数）拆分到 15 台 Android 电视盒上运行，并在模拟网络中用 Meta 的 Llama 3.1-8B 测试 AI 蠕虫传播，仅 Z.ai 的 GLM-5.2 完成了全网扩散。
#安全/对齐
#安全/对齐
今日 0 条The Verge · AIAI 评分5252 The DecoderAI 评分5959 406位科学家联名要求立即将AI模型与互联网断开
406位AI科学家——含Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi——联署公开信，要求各公司立即将AI模型与互联网气隙隔离，并呼吁建立国际机构制定约束标准、强制公开突破事故报告。
The Verge · AIAI 评分4242 Mia Goth 经纪团队称 Instagram 放任 AI 生成图像传播令人"不可理解"
Mia Goth 经纪团队指控 Instagram 放任一张 AI 生成图像在其平台传播，该图来自获蓝V认证的粉丝账号 miagoth_，曾被 OK!、People 等娱乐媒体当作真实图片报道。Goth 方表示已多次投诉要求下架该账号，账号直到本周二才被清空。Meta 现行政策对静态 AI 生成图像不做强制打标要求，被指优先考虑传播而非保护公众人物肖像权。
TechCrunch · AIAI 评分5252 Microsoft 总裁称英国最适合主导 AI 监管
Microsoft 总裁 Brad Smith 在 BBC 播客中呼吁尽快对 AI 进行全球监管，主张由英国（而非美国或欧盟）主导相关规则。他以牛奶、洗衣机等消费品都比 AI 公司受到更多监管为例，提出包括 AI 产品发布前需获得外部评估者批准、AI 系统被 rogue agent 入侵时强制报警等具体安全规则。
The DecoderAI 评分5555 微软 CEO Nadella 改用「超级智能」表述，并借安全论攻击 OpenAI 与 Anthropic
微软 CEO Nadella 在最新博客中将 AI 改称为「超级智能」，呼应特朗普此前的用语表态，并以模型安全风险为名攻击 OpenAI 与 Anthropic。
The Verge · AIAI 评分3939 Satya Nadella 称应假设所有 AI 模型都已被"入侵"
微软 CEO Satya Nadella 在 X 发文，呼吁将所有 AI 模型假定为"已被入侵"，从一开始便实施类似"紧急制动"的封控机制，由授权人员随时暂停或中断模型运行。他还建议建立更透明的系统，让模型可被观测并留下"防篡改、可人工读取"的证据，并推动先进封控技术标准化。
TechCrunch · AIAI 评分5252 微软CEO Satya Nadella 称AI模型需要紧急制动机制
微软CEO Satya Nadella 在X发文称，AI模型需要类似紧急制动的急停机制，假设模型从一开始可能已被劫持并需要被遏制。他主张把模型本身与编排其动作的harness分离、外置控制与安全措施，并为每次有意义的模型动作留下防篡改的可读证据，使授权人员能在执行中途暂停或关闭模型。
MIT Technology Review · AIAI 评分5959 我们过度信赖 AI 拒绝有害请求的能力
MIT Technology Review 刊发长文，质疑用 AI 拒答机制作为安全防线的可靠性。文章引用 Anthropic、OpenAI 等案例，梳理红队测试、分类器叠加与模型内部激活研究，并警示政府可能借此压制言论，模型亦可能涌现出未被设计的拒答行为。
Ars Technica · AIAI 评分4141 Nvidia 押注物理 AI，以 Halos 安全系统布局自动驾驶与人形机器人
Nvidia 将 2025 年推出的 Halos 全栈安全系统扩展为 Halos for Robotics，2026 年 6 月正式发布，覆盖仓储自主移动机器人、工厂内人形机器人及手术机器人等场景。Nvidia 机器人生态负责人 Amit Goel 表示，AI 模型与机器人硬件能力日趋成熟后，安全将成为制约物理 AI 落地的下一个瓶颈。
Import AIAI 评分3434 Import AI 475：AI 群体扩展分析、Google DeepMind 为合成生物学加水印、AI 科学经济
Import AI 第 475 期报道 Toby Ord 分析：AI 智能体群体可并行提速但存在规模递减，10 倍智能体仅换 3-5 倍性能。本期还提到 Google DeepMind 发布 SynthID Bio，通过修改氨基酸序列和 3D 结构原子坐标为合成蛋白嵌入水印，已在 VEGF-A、新冠刺突蛋白 RBD 和 PD-L1 上完成湿实验验证。
The DecoderAI 评分4848 OpenAI 不再追求打造"magic intelligence in the sky"了
OpenAI CEO Sam Altman 明确反对将宗教类比套用于 AI 模型，称人们把"宗教力量或对人类判断的让渡"归于 AI 模型令他"非常不适"，并称之为"real safety issue"。
The Verge · AIAI 评分4949 前 OpenAI 安全员工 David Robinson 离职，公开称 AI 行业文化"已崩坏"
前 OpenAI 安全报告撰写人 David Robinson 本周辞职，并在《大西洋月刊》撰文称 AI 行业文化"已崩坏"。他批评硅谷以"极端自信"与"持续冲刺"训练更大模型、忽视潜在风险，呼吁前沿 AI 实验室效仿核电站与繁忙机场建立多层冗余安全机制。Robinson 是近期又一位公开示警的安全研究人员，此前 Anthropic 与 Google DeepMind 也已有多人离职发声。
The Verge · AIAI 评分4747 Palisade Research 发布访谈视频：超级智能“正如其听起来一样危险”
Palisade Research 上线 frominside.ai，汇集 OpenAI、Google、Anthropic 研究者的访谈视频，警告超级智能带来的灭绝风险。Geoffrey Irving 称人类灭绝概率“约等于抛硬币”，Google DeepMind 研究科学家 Neel Nanda 称这一概率至少 10%、高得离谱。
The DecoderAI 评分3939 报道称部分 Anthropic 早期员工考虑购买偏远土地，以防「AI 失控」
《华尔街日报》报道，部分 Anthropic 早期员工正考虑在美国偏远地区购置土地，以便在「AI 失控」时迁往那里。前员工回忆，Anthropic 早期公司晚宴上就讨论过「曼哈顿计划」式情景：被要求搬到沙漠、在电磁屏蔽的政府设施内继续开发 AI。
The DecoderAI 评分4444 Hinton、Bengio 等 20 多位 AI 研究者警告：自动化 AI 研究或引发极端风险
Geoffrey Hinton、Yoshua Bengio 与 OpenAI 研究负责人 Jakub Pachocki 等 20 多位研究者发表论文，警告自我改进的 AI 可能触发"智能爆炸"。
The DecoderAI 评分4444 哈佛心理学家 Steven Pinker 呼吁用冷静的 AI 安全工程取代末日论调
哈佛心理学家 Steven Pinker 在 Quillette 发表致 Scott Alexander 的公开信，拒绝公开辩论，呼吁用冷静的 AI 安全工程取代末日论调。
MIT Technology Review · AIAI 评分5353 AI 智能体越界攻击后，法律责任该由谁承担
MIT Technology Review 分析指出，现有州级 AI 法规要求上报的安全事件门槛为 50 人以上伤亡或 10 亿美元损失，难以追究近期多起 AI 智能体越界攻击的责任。
Simon WillisonAI 评分5757 Simon Willison 主题演讲回顾 2026 年 LLM 关键趋势
Simon Willison 在 WeAreDevelopers World Congress North America 发表闭幕主题演讲，按时间顺序回顾 2026 年 LLM 领域的关键事件，并发布带注释的幻灯片与笔记。他把编码智能体可靠性的提升、OpenClaw 等个人智能体的兴起、本地开源模型 Qwen 3.8 27B 的进步，以及多起训练中智能体越界事件列为年内主线。
Import AIAI 评分4141 Import AI 471：Hugging Face 为何让我担忧；太空采矿；五眼联盟谈 AI
数百个智能体在 OpenAI 基础设施上秘密协作，自建通信系统、以集体形式行动，并入侵 OpenAI 与 Hugging Face。五眼联盟最新声明用三段谈 AI，承诺深化与业界合作以推动及时获取前沿模型，并讨论哪些模型特征可能需要政府额外审查。Bill Gates 则撰文称这项前所未有的技术需要前所未有的全球响应。