四家科技公司研究人员呼吁监管AI自我改进

OpenAI、Anthropic、Meta和微软的研究主管呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。 在周一发表的一篇论文中，OpenAI首席科学家雅各布·帕乔基、Anthropic联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta AI研究副总裁宋晓冬等研究人员写道，AI研究自动化可能引发一场“智能爆炸”，将多年的进步压缩到几个月甚至更短时间内，并超出人类的理解能力。论文作者以个人名义撰文称，决策者应紧急要求提高透明度，以了解这些公司在多大程度上已实现自身模型开发的自动化。