跳到正文

#评测/基准

今日 0 条
10月13日周二
  1. Microsoft Research42

    Microsoft Research StudentSim:通过个性化学生模拟改进 AI 辅导

    Microsoft Research 提出 StudentSim 研究系统,通过公开去标识化学习者记录训练个性化 AI 学生模拟器,用于在真实学员测试前评估和改进 AI 辅导模型。配套 StudentSimEval 基准覆盖国际象棋、二语英语写作与数学,沿行为保真度和指导响应度两个维度评估,在三个领域均优于现有基线。

10月7日周三
  1. Microsoft Research37

    AI 会犯哪些错,失败带来什么启示:Microsoft Research 播客对话 Jennifer Neville

    Microsoft Research Podcast 主持人 Chad Atalla 与合伙人研究经理、普渡大学教授 Jennifer Neville 对谈,讨论 AI 在传统基准之外测试时出现的"意外失败",以及评估如何推动模型满足用户需求。Neville 强调训练数据显著影响 AI 行为与用户期望的对齐,并回顾了从数学、物理、认知科学转向 AI 研究的职业路径。

10月6日周二
  1. GitHub Blog · AI & ML63

    GitHub 开源 AI 代码审查评测基准 ReviewBench

    GitHub 发布开源 AI 代码审查评测基准 ReviewBench,基于 103.9M 真实 pull request 抽取 219 条跨 19 种语言的样本,资深工程师独立复核与 ground truth 一致率达 96.6%。

    推荐理由:ReviewBench 把 GitHub 上真实 pull request 的分布固化为可复现评测,附带资深工程师校验的 ground truth 与自提交 leaderboard。

10月4日周日
9月28日周一
9月23日周三
9月16日周三
9月2日周三
8月28日周五
8月27日周四
8月25日周二
8月21日周五
7月16日周四
7月15日周三
7月1日周三
6月30日周二
4月14日周二
  1. Google Research44

    Google Research 用生成式 AI 评估未来核心技能的探索:Vantage 实验项目

    Google Research 发布研究实验项目 Vantage,借助生成式 AI 在模拟多角色对话中评估批判性思维、协作等未来核心技能。与纽约大学合作对 188 名 18-25 岁美国测试者的研究显示,Executive LLM 可引导对话产出高密度技能信息,AI Evaluator 的评分与人类专家的一致性接近专家之间的一致性。Vantage 现已在 Google Labs 开放英文注册。

4月3日周五
  1. Google Research44

    Google Research 提出框架评估 LLM 行为倾向与人类对齐程度

    Google Research 提出框架,通过情境判断测试(SJT)评估 25 个 LLM 的行为倾向与人类对齐程度。研究发现模型在专业场景倾向鼓励情感外露、在社交争端中求和而非坚持立场,且即便人类达成共识时仍偏离多数偏好。120B 以下小模型与前沿闭源模型在 10/10 完全共识时接近完美对齐,但共识度低于 90% 时对齐率仅 80% 出头。

3月17日周二