安全风险
Cal Newport抨击OpenAI、Anthropic并呼吁国会调查
计算机教授Cal Newport批评OpenAI和Anthropic的“救世主”式思维,呼吁国会公开调查其研究项目、安全程序及末日主义意识形态影响。
过去几个月,OpenAI和Anthropic公开宣传代理系统能力,并讨论人工智能技术可能导致人类灭绝的问题。计算机教授Cal Newport批评两家实验室表现出“救世主”式思维,称其不仅没有道歉,还要求政府放慢潜在竞争对手的发展速度,以保持领先地位。
Newport呼吁国会启动公开事实调查,重点了解两家实验室正在开展的研究项目、运作方式及具体目的。调查应隔离导致问题的特定技术系统,审查研究中的内部安全程序并追究越权行为责任,同时评估末日未来主义意识形态对实验室研究决策和开发速度的影响。