OpenAI、Anthropic等研究人员呼吁政策制定者关注AI研发自动化风险

9月28日，OpenAI、Anthropic、Meta和微软等公司的研究人员呼吁政策制定者加强对人工智能研发自动化程度的关注。研究人员在一份报告中称，AI系统目前已能完成开发AI所需的大部分代码工作，随着AI研发流程进一步自动化，可能触发所谓“智能爆炸”，使AI能力进步从以年计压缩至数月甚至更短时间。

报告称，AI系统可能在未来数年内实现大部分、甚至全部AI研发工作的自动化。如果由此引发“智能爆炸”，可能加速AI技术带来的收益，但也可能带来AI能力增长速度超过社会应对能力、人类失去对超人类AI系统控制等风险。报告建议政策制定者提高对AI研发自动化程度的了解，并研究如何引导和约束相关发展。