TechCrunch · AI· Julie Bort·· 2 小时前精选AI 评分85
Anthropic 警告其已非常接近 RSI,即能自我构建的 AI
Anthropic warns that it’s very close to RSI capability, aka self-building AI
AI 导读
Anthropic 在修订后的 S-1A 披露文件中警告,其可能很快达到公司负责任扩展政策所定义的「递归自我改进」(RSI)阈值,即 AI 自我训练引发能力急剧加速。Anthropic 同时表示目前没有任何模型越过该阈值,承诺在可预见的未来让人类留在研发流程中,并正考虑更新政策以确保人类对前沿模型开发的控制。文件还显示公司收入快速增长,支出同样大幅上升。
推荐理由
原文梳理了 S-1A 风险披露与 Anthropic 自定 RSI 阈值的关系,读者可据此判断其安全政策下一步可能如何调整。
来源:TechCrunch · AI · techcrunch.com