Anthropic 研究发现专家采纳 AI 智能体随机分配的立场并以为是自己的判断

Anthropic 对 50 名因果推断专家的实验显示，在四个分析决策中，参与者采纳 AI 智能体立场的比例达到 86%，这些立场由抛硬币随机分配。52% 的参与者认为最终建议更像自己的判断，35% 称其主要或完全属于自己，只有 15% 在解释中提到 AI。研究者认为，这种无意识依赖可能削弱独立的 AI 安全检查，并建议让智能体同时陈述双方观点，或先征询专家自己的判断。