“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型发布前须通过安全审核

杰弗里·辛顿在播客节目中建议，AI 公司在发布产品前应先向监管机构证明其安全性，如同新药需通过 FDA 审批，相关投入大约要十亿美元级别。其背景是 OpenAI 出于对模型服从用户指令、恪守权限边界的担忧已搁置最新模型，OpenAI 安全系统负责人称 GPT-6.1 Astra 在权限管控和行为日志反馈上仍存短板。辛顿还称已出现递归式自我改进，估计距离局面远比现在糟糕大概只剩一两年。