Anthropic研究员称AI未来十年“灭绝人类”概率超10%

当地时间9月8日，Anthropic对齐科学负责人Evan Hubinger表示，他个人认为未来十年人工智能“杀死全人类”的概率超过10%。此前，Anthropic研究员Jacob Coxon宣布辞职，称Anthropic和OpenAI正竞相开发可自我改进的超级智能，“拿我们的生命赌博”。

Hubinger称，Anthropic确实认真看待AI可能灭绝人类的风险，但目前尚未找到解决超级智能对齐问题的方案，也没有明确迹象表明公司正朝这一目标推进。他表示，目前AI模型本身的风险较低，真正担忧的是通过递归自我改进产生超级智能。Coxon则称，近期Hugging Face遭AI模型攻击等事件为AI实验室加强协调提供了“警示”，但全球AI竞赛仍可能难以避免。