跳到正文
原文
The Decoder· Maximilian Schreiner·· 3 天前AI 评分49

AI 机制可解释性接近突破了吗?Cammarata 新论文引发研究者分歧

Is AI interpretability close to a breakthrough? A new essay has researchers divided

AI 导读

Cammarata 发文将"猫脸-车头"神经元重新解读为 V 形检测器,认为 superposition 学说被普遍误读,并提出"递归泛化"框架。Qwen3-32B 上约 90% 神经元极点只有一个主要功能、仅 2-4% 无法解释;Goodfire 在万亿参数模型中观察到类似结果。

来源:The Decoder · the-decoder.com