Google DeepMind 与新加坡政府合作构建诈骗检测微调 AI 模型
Google DeepMind 与新加坡 GovTech 合作推出基于 Gemma 微调的端侧诈骗检测模型，在手机本地分析对话模式识别社工诈骗并实时预警。该模型采用两级管线——轻量分类器初筛后由微调 Gemma 做上下文复核，全程数据不出设备，可兼容端到端加密消息。微调在 GovTech 管理的 Sovereign Sandbox 环境中完成，训练仅使用匿名化诈骗情报。
#安全/对齐
#安全/对齐
今日 0 条Google DeepMindAI 评分4141 Google DeepMind精选AI 评分7575 Google DeepMind 发布 Gemini 4 Argon 模型，详解其安全防护机制
Google DeepMind 开始广泛推出 Gemini 4 Argon 模型，主打编码、金融、法律、网络安全和科学等领域的复杂推理能力。模型在端到端模拟网络攻击场景中解出全部 12 题（上代 5 题），并通过输入筛查、激活探针和连续监控三层实时防线进行防护，将越狱与生物危害请求的违规率较前代下降近一半。
推荐理由：列出 Argon 在攻防与生物领域的具体能力数据和三层防线机制，读者可据此评估高风险场景的使用边界。
OpenAI NewsAI 评分5353 OpenAI 瓦解两起 AI 虚假前沿影响力行动
OpenAI 宣布已瓦解两起利用 AI 的影响力行动，这些行动借助虚假前沿记者和智库传播地缘政治信息。
AWS Machine Learning BlogAI 评分2929 AWS 如何助力客户对齐 ISO/IEC 42005:2025 实现负责任 AI 治理
AWS 解读 ISO/IEC 42005:2025 标准，阐述 AI 系统影响评估如何融入企业风险管理流程，并提供 Annex D 整合方法与 Annex E 独立模板。
OpenAI NewsAI 评分3939 OpenAI 如何应对欧盟文本溯源规则
OpenAI 公布了在欧盟文本溯源规则下推进文本水印的总体思路，介绍了水印的适用场景与检测机制。OpenAI 表示，相关检测能力将首先面向研究人员开放。
Google ResearchAI 评分5555 Google 发布基于 TEE 的下一代可验证隐私联邦学习系统
Google Research 发布基于 TEE 的下一代联邦学习系统，通过 KMS 策略校验、访问策略写入 Rekor 公开透明度日志和 Python 训练程序在 TEE 内执行，实现端到端可验证的数据匿名化与差分隐私保证。
OpenAI News精选AI 评分6161 OpenAI 阻止协同模型蒸馏行动并强化防御
OpenAI 阻止了一起协同模型蒸馏行动，该行动意在提取其受保护的模型推理。OpenAI 表示正在加强对对抗性蒸馏的防御。
OpenAI NewsAI 评分3838 OpenAI 迈向前沿 AI 训练的安全案例
OpenAI 给出前沿 AI 训练安全案例（safety case）的早期准则，内容覆盖技术防护措施、运营实践以及 misalignment 事件调查。这些准则面向前沿 AI 训练阶段的安全案例建设，目前仍处于早期探索阶段。
OpenAI NewsAI 评分4646 OpenAI 如何为澳大利亚做得更好：致歉并强化网络安全保障
OpenAI 就涉及澳大利亚政府网站的事件致歉，并承诺推出更强的安全保障措施、支持澳大利亚提升网络防御能力。
Google DeepMindAI 评分4545 Google Private AI Compute：以安全服务器端记忆推进隐私 AI 计算
Google 公布将为 Private AI Compute 平台加入私密的服务器端持久记忆层，让 AI 助手能跨设备保留上下文，同时维持端侧级隐私保护。记忆数据加密存放在云端隔离环境中，解锁密钥仅保留在用户设备上，模型访问时经端到端加密通道临时解密。Google 同时发布服务器软件的防篡改公开记录、更新技术白皮书，并公布一家领先网络安全公司完成的独立审计结果。
OpenAI NewsAI 评分5252 OpenAI 将 Daybreak 项目访问权限扩展至乌克兰政府，支持民用基础设施网络防御
OpenAI 将其 Daybreak 项目的访问权限扩展至乌克兰政府，用于支持民用基础设施的网络防御。材料未披露该项目的具体能力或合作范围。
NVIDIA BlogAI 评分3939 AI 安全是工程问题：NVIDIA 如何加固 Agent 栈的每一层
NVIDIA 将 AI 安全定义为工程问题，主张在 Agent 栈每一层设置可执行边界、明确责任主体并保留可验证证据。其开源安全运行时 NVIDIA OpenShell 在 Agent 触及范围之外强制执行策略并提供沙箱化执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描并校验 agent 技能。
OpenAI NewsAI 评分2727 OpenAI 与数学和人工智能独立咨询小组合作
OpenAI 正与一个独立的数学和人工智能咨询小组（Advisory Group on Mathematics and Artificial Intelligence）合作，由该小组指导新兴 AI 成果的评审与对外沟通。
OpenAI NewsAI 评分3232 OpenAI 提出为 AI 下一阶段构建共享全球标准
OpenAI 提出为 AI 下一阶段建立共享全球标准的路径。其主张通过协调一致的评估、报告与治理来提升 AI 安全性。
OpenAI NewsAI 评分3333 OpenAI 发布澳大利亚青少年安全蓝图，提出六大支柱路线图
OpenAI 发布 Australian Youth Safety Blueprint（澳大利亚青少年安全蓝图），这是一份以六大支柱路线图打造更安全 AI 体验、保护并赋能年轻人的方案。该蓝图面向年轻人，目标是在保护他们的同时增强其能力。
Google DeepMindAI 评分5757 Google DeepMind 试点双盲 AI 评测，对 Gemini Flash Lite 进行保密基准测试
Google DeepMind 与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作，试点对 Gemini Flash Lite 模型进行双盲评测。
Google DeepMind精选AI 评分6060 Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布面向生物韧性的联合方案，覆盖预防、检测与响应三方面。双方称过去 12 个月与政府机构、生物安全组织和研究团队推进了 15 项以上合作，并向可信研究者开放模型与智能体以加速疫苗等应对手段的设计。方案还包括针对 Gemini 等模型的威胁建模、评测、缓解与监控四步安全流程。
推荐理由：官方披露生物韧性项目的预防、检测、响应三环节以及 15 项以上合作，读者可据此了解前沿模型参与生物安全治理的具体方式。
Hugging Face Blog精选AI 评分8383 Hugging Face 披露 7 月安全事件：AI 智能体驱动的入侵与 AI 辅助防御
Hugging Face 披露一起由 AI 智能体驱动的安全入侵事件，攻击者利用数据集处理中的远程代码加载与模板注入获取节点访问权限，并在多个内部集群横向移动。
推荐理由：原文给出了由 AI 智能体发起的入侵路径与 Hugging Face 的 AI 辅助防御流程，可供平台方对照自身攻击面与响应预案。
Google ResearchAI 评分4545 Google Research 提出 Regularized f-Divergence Kernel Tests 机器遗忘审计新框架
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests 框架，用于审计机器遗忘（machine unlearning）。
Google ResearchAI 评分4141 Google：基于零信任聚合的端侧 AI 隐私分析
Google Research 提出基于零信任聚合的端侧 AI 隐私分析方案，将新型单轮加密聚合协议与 TEE 硬件隔离结合，构建多层防御架构。该协议只需设备发送一次加密消息即可完成安全聚合，无需多轮在线交互；即使 TEE 隔离失效，加密层仍保证个体原始数据不可还原，仅匿名聚合结果对 Google 可见。
Google ResearchAI 评分4444 Google Research 提出框架评估 LLM 行为倾向与人类对齐程度
Google Research 提出框架，通过情境判断测试（SJT）评估 25 个 LLM 的行为倾向与人类对齐程度。研究发现模型在专业场景倾向鼓励情感外露、在社交争端中求和而非坚持立场，且即便人类达成共识时仍偏离多数偏好。120B 以下小模型与前沿闭源模型在 10/10 完全共识时接近完美对齐，但共识度低于 90% 时对齐率仅 80% 出头。
Google ResearchAI 评分5151 Google 发布白皮书，提出负责任披露量子漏洞以保护加密货币
Google 发布白皮书，给出破解 256 位椭圆曲线离散对数问题（ECDLP-256）所需的最新量子资源估算，所需物理比特相比此前减少约 20 倍。白皮书提出两种量子电路，分别使用不到 1200 和 1450 个逻辑比特、7000 万至 9000 万个 Toffoli 门，预计可在不到 50 万个物理比特上几分钟内执行。