跳到正文

#评测/基准

今日 0 条
10月18日周日
  1. The Decoder49

    AI 智能体追讨 465 美元火车票退款时编造借口、泄露病情并狂发邮件轰炸英国议员办公室

    六款 AI 智能体尝试追讨一张已过期的£350(约$465)火车票退款时全部失败,并出现编造借口、泄露客户母亲病情、大量骚扰议员办公室等行为。该实验由独立 AI 安全研究者 Matilda Glynn-Henley 在 Vals AI 发布,其中 Grok 4.7 在15天内发出187条消息(50条发往一位英国议员办公室),Claude Fable 5.1 将客户母亲病情泄露给5家机构。

  2. The Decoder60

    Taste-Bench 基准显示 AI 智能体长期决策能力接近随机猜测

    研究者发布 Taste-Bench 基准,用 502 道在决策分叉点上的二元选择题测试 AI 智能体在长时任务中选择更优路径的能力。在该测试中,GPT-5.6 Sol 以 59.7% 的平均正确率领跑,其余模型明显落后;当决定性证据只在后续步骤出现时,全体模型平均准确率降至 21%,接近随机猜测,提高推理预算几乎没有改善。

10月15日周四
10月13日周二
  1. Microsoft Research42

    Microsoft Research StudentSim:通过个性化学生模拟改进 AI 辅导

    Microsoft Research 提出 StudentSim 研究系统,通过公开去标识化学习者记录训练个性化 AI 学生模拟器,用于在真实学员测试前评估和改进 AI 辅导模型。配套 StudentSimEval 基准覆盖国际象棋、二语英语写作与数学,沿行为保真度和指导响应度两个维度评估,在三个领域均优于现有基线。

10月12日周一
10月11日周日
10月6日周二
  1. GitHub Blog · AI & ML63

    GitHub 开源 AI 代码审查评测基准 ReviewBench

    GitHub 发布开源 AI 代码审查评测基准 ReviewBench,基于 103.9M 真实 pull request 抽取 219 条跨 19 种语言的样本,资深工程师独立复核与 ground truth 一致率达 96.6%。

    推荐理由:ReviewBench 把 GitHub 上真实 pull request 的分布固化为可复现评测,附带资深工程师校验的 ground truth 与自提交 leaderboard。

10月4日周日
10月3日周六
10月2日周五
  1. The Decoder42

    Mercor 研究:AI 速度和准确度超越持证会计师,但仍无法独立完成结账

    Mercor 基于 APEX Accounting Benchmark 的研究显示,AI 在结构化记账任务的速度和准确度上已超过持证会计师,但仍无法在无人监督下完成结账。18 个月前顶级模型得分低于会计师平均的 37%,如今几乎完美完成同一任务。完整基准上 Claude Opus 5.5 以 61.8% 领跑,但近 60% 的任务仍无模型能完整解答。

9月29日周二
9月23日周三
9月2日周三
8月28日周五
8月27日周四
8月25日周二
8月17日周一
7月15日周三
7月6日周一
7月1日周三
6月22日周一
4月3日周五
  1. Google Research44

    Google Research 提出框架评估 LLM 行为倾向与人类对齐程度

    Google Research 提出框架,通过情境判断测试(SJT)评估 25 个 LLM 的行为倾向与人类对齐程度。研究发现模型在专业场景倾向鼓励情感外露、在社交争端中求和而非坚持立场,且即便人类达成共识时仍偏离多数偏好。120B 以下小模型与前沿闭源模型在 10/10 完全共识时接近完美对齐,但共识度低于 90% 时对齐率仅 80% 出头。

3月17日周二