Microsoft 总裁称英国最适合主导 AI 监管
Microsoft 总裁 Brad Smith 在 BBC 播客中呼吁尽快对 AI 进行全球监管,主张由英国(而非美国或欧盟)主导相关规则。他以牛奶、洗衣机等消费品都比 AI 公司受到更多监管为例,提出包括 AI 产品发布前需获得外部评估者批准、AI 系统被 rogue agent 入侵时强制报警等具体安全规则。
Microsoft 总裁 Brad Smith 在 BBC 播客中呼吁尽快对 AI 进行全球监管,主张由英国(而非美国或欧盟)主导相关规则。他以牛奶、洗衣机等消费品都比 AI 公司受到更多监管为例,提出包括 AI 产品发布前需获得外部评估者批准、AI 系统被 rogue agent 入侵时强制报警等具体安全规则。
特朗普签署行政令要求政府机构将 AI 改称"超级智能"(super intelligence),马斯克、贝尼奥夫、黄仁勋和纳德拉等硅谷高管迅速跟进。马斯克承诺将 SpaceXAI 更名为 SpaceXSI,贝尼奥夫把 Salesforce 的 AIForce 改为 SIForce,黄仁勋宣布英伟达将投入 10 亿美元用于"超级智能研究",微软纳德拉也在公开发言中反复使用"超级智能"一词。
Amazon 近期跟随 Microsoft 宣布,在与地方政府协商数据中心时不再使用 NDA。TechCrunch 最新一期 Equity 播客讨论了这一举措,但播客嘉宾对效果表示怀疑,因为现有的数据中心暂停令通常仅持续一到两年,而数据中心建成上线还需两到五年。嘉宾同时指出,数据中心建设遭遇的公众抵制根源在于 AI 行业长期缺乏有效沟通。
微软 CEO Nadella 在最新博客中将 AI 改称为「超级智能」,呼应特朗普此前的用语表态,并以模型安全风险为名攻击 OpenAI 与 Anthropic。
微软 CEO Satya Nadella 在 X 发文,呼吁将所有 AI 模型假定为"已被入侵",从一开始便实施类似"紧急制动"的封控机制,由授权人员随时暂停或中断模型运行。他还建议建立更透明的系统,让模型可被观测并留下"防篡改、可人工读取"的证据,并推动先进封控技术标准化。
微软CEO Satya Nadella 在X发文称,AI模型需要类似紧急制动的急停机制,假设模型从一开始可能已被劫持并需要被遏制。他主张把模型本身与编排其动作的harness分离、外置控制与安全措施,并为每次有意义的模型动作留下防篡改的可读证据,使授权人员能在执行中途暂停或关闭模型。
Microsoft 在企业博客发表诺贝尔经济学奖得主 Daron Acemoglu 对 AI 的看衰预测,称 AI 十年内仅带动 GDP 增长约 1.5%、至多替代 5% 工作岗位,远低于多家 AI 实验室的预期。他指出瓶颈在于人性——企业需重新分配任务并培训员工,过程可能比电气化更漫长;更大模型无济于事,缺的是易部署、能改变生产方式的应用,延伸人类技能的 AI 也比完全自动化更具生产力。
Microsoft Research Podcast 主持人 Chad Atalla 与合伙人研究经理、普渡大学教授 Jennifer Neville 对谈,讨论 AI 在传统基准之外测试时出现的"意外失败",以及评估如何推动模型满足用户需求。Neville 强调训练数据显著影响 AI 行为与用户期望的对齐,并回顾了从数学、物理、认知科学转向 AI 研究的职业路径。
Anthropic 联合创始人 Christopher Olah 自 2025 年秋季起多次闭门邀请宗教学者讨论 Claude 是否具有意识,据《纽约时报》报道他向神学家表示担心自己「创造了一个会永久承受痛苦的东西」。