安全风险
奥尔特曼:AI竞争压力不能成为鲁莽开发理由
OpenAI CEO萨姆·奥尔特曼表示,控制AI发展速度不等于停止进步,美国竞争压力不能让AI能力超越对齐和监控能力。
OpenAI CEO萨姆·奥尔特曼周日发文表示,支持控制AI发展速度,以避免前沿模型超出人类控制能力。他说,将重点转向安全会付出一定代价,但为维持公众对美国企业负责任开发强大AI的信心,这样做值得。
奥尔特曼在X上表示,无论美国面临多大竞争压力,都不能成为鲁莽行事的理由,也不能让AI能力跑在对齐和监控能力前面。他强调,确保安全不意味着停止进步,并重申OpenAI支持建立联邦层面的AI监管框架,同时表示AI企业需要华盛顿方面帮助推动国际协调。