跳到正文

#评测/基准

今日 0 条
8月17日周一
7月27日周一
7月16日周四
7月15日周三
7月6日周一
7月1日周三
6月30日周二
6月22日周一
4月14日周二
  1. Google Research44

    Google Research 用生成式 AI 评估未来核心技能的探索:Vantage 实验项目

    Google Research 发布研究实验项目 Vantage,借助生成式 AI 在模拟多角色对话中评估批判性思维、协作等未来核心技能。与纽约大学合作对 188 名 18-25 岁美国测试者的研究显示,Executive LLM 可引导对话产出高密度技能信息,AI Evaluator 的评分与人类专家的一致性接近专家之间的一致性。Vantage 现已在 Google Labs 开放英文注册。

4月3日周五
  1. Google Research44

    Google Research 提出框架评估 LLM 行为倾向与人类对齐程度

    Google Research 提出框架,通过情境判断测试(SJT)评估 25 个 LLM 的行为倾向与人类对齐程度。研究发现模型在专业场景倾向鼓励情感外露、在社交争端中求和而非坚持立场,且即便人类达成共识时仍偏离多数偏好。120B 以下小模型与前沿闭源模型在 10/10 完全共识时接近完美对齐,但共识度低于 90% 时对齐率仅 80% 出头。

3月17日周二