跳到正文
原文
Google Research·· 2026-04-01AI 评分39

Google Research:构建更好的 AI 基准需要多少评分者?

Building better AI benchmarks: How many raters are enough?

AI 导读

Google Research 论文发现,AI 评测中常用的每项 1–5 名评分者配置往往不足以捕捉人类意见分歧,常需 10 名以上。若目标是多数投票,广度(更多样本)更有效;若要还原意见的全部分歧,深度(更多评分者)才是关键。正确配比下,约 1,000 条标注即可实现高可复现结果,相关模拟器已在 GitHub 开源。

来源:Google Research · research.google