The Decoder· Maximilian Schreiner·· 2 小时前AI 评分54
机制可解释性是否接近突破?Cammarata 新文章在研究者间引发分歧
Is AI interpretability close to a breakthrough? A new essay has researchers divided
AI 导读
Cammarata 在新文章中重新解读了机制可解释性的经典案例,认为著名的猫脸与车头神经元实为 V 形检测器,许多被视为叠加的现象只是普通泛化或他提出的递归泛化。他给出 Qwen3-32B 中约 90% 神经元极性只有一个主要功能、仅 2% 至 4% 未解释的初步数字。Neel Nanda 认为这只是实用工具而非突破,并仍坚持叠加现象真实存在。
来源:The Decoder · the-decoder.com