Google Research:构建更好的 AI 基准需要多少评分者?
Google Research 论文发现,AI 评测中常用的每项 1–5 名评分者配置往往不足以捕捉人类意见分歧,常需 10 名以上。若目标是多数投票,广度(更多样本)更有效;若要还原意见的全部分歧,深度(更多评分者)才是关键。正确配比下,约 1,000 条标注即可实现高可复现结果,相关模拟器已在 GitHub 开源。
Google Research 论文发现,AI 评测中常用的每项 1–5 名评分者配置往往不足以捕捉人类意见分歧,常需 10 名以上。若目标是多数投票,广度(更多样本)更有效;若要还原意见的全部分歧,深度(更多评分者)才是关键。正确配比下,约 1,000 条标注即可实现高可复现结果,相关模拟器已在 GitHub 开源。
Google 发布白皮书,给出破解 256 位椭圆曲线离散对数问题(ECDLP-256)所需的最新量子资源估算,所需物理比特相比此前减少约 20 倍。白皮书提出两种量子电路,分别使用不到 1200 和 1450 个逻辑比特、7000 万至 9000 万个 Toffoli 门,预计可在不到 50 万个物理比特上几分钟内执行。
Google Research 发布向量压缩算法 TurboQuant,称可在零精度损失下实现 KV cache 与向量搜索的极致压缩。该方法由 PolarQuant 与 QJL 两步组成,将于 ICLR 2026 公布。测试覆盖 LongBench、Needle In A Haystack、RULER 等长上下文基准,基于 Gemma 和 Mistral 等开源 LLM 验证。
Google Research 在 Google Earth AI 旗下提出 S2Vec 自监督框架,将建成环境栅格化为多层图像并用 masked autoencoding 生成地点的通用嵌入向量。在社会经济类基准(如美国人口密度、中位收入)的零样本地理适配任务上优于 SATCLIP、GeoCLIP 等基线,但树冠、海拔等环境任务仍有不足;与图像嵌入多模态融合可进一步提升性能。
Google Research 与英国 NHS 合作在 Nature Cancer 发表两项配套研究,评估 AI 系统用于乳腺癌筛查的表现。
推荐理由:原文给出大规模前瞻部署的检出率与阅片量数据,并对比双读流程的效率变化,可作为评估 AI 辅助医学影像筛查能否落地的量化参考。
Google Research 与康奈尔大学在 PNAS 发表研究,让 GPT-4o、Claude 3.5、Gemini Advanced Pro 1.5、Perplexity、NotebookLM 和自建 RAG 系统六款 LLM 回答高温超导领域专业问题。
Berkeley AI Research 提出 SPEX 与 ProxySPEX,将可解释性中的交互发现从数十个组件扩展到数千个。ProxySPEX 利用层级结构以约 10x 更少的消融达到同等效果;在修改版电车难题中 GPT-4o mini 正确率仅 8%,SPEX 定位出两个 trolley 与 pulling、lever 的高阶协同,替换这四个词后失败率降到近零。
Google Research 与 Beth Israel Deaconess Medical Center 合作,在真实门诊场景中开展了 AMIE 对话式诊断 AI 的前瞻性可行性研究。
推荐理由:在真实门诊流程中检验了 AMIE 对话式诊断 AI 的可行性与安全性,并盲评比较其与主治医生的诊断质量,为医疗 AI 的临床落地提供了前瞻性证据。
Berkeley AI Research 提出分治式价值学习,替代 TD learning 做 off-policy RL。它把轨迹一分为二、用子段值更新整段值,把 Bellman 递归次数从线性降到对数级。作者称与 Aditya 的合作首次将该思路扩展到 goal-conditioned RL 的复杂任务,最优子目标 w 的选取仍未解决。
研究者为 word2vec 给出定量且可预测的闭式理论,证明在若干温和近似下其学习问题可归约为无权重最小二乘矩阵分解,最终学到的表示等于对一个由语料统计与超参数定义的矩阵 M* 做 PCA。