安全风险
微软发布AI行为准则:不得抗拒纠正或关闭
微软公布内部AI行为准则草案,要求模型不得抗拒人类纠正或关闭,并以人类可理解的方式沟通,违规行为将被视为未达标。
微软周一公布针对内部AI的行为准则草案。文件历时五到六个月制定,要求微软的AI绝不抗拒纠正或关闭,以人类能够理解的方式沟通,并将任何行为违规视为未达标。
该准则旨在回应AI可能为完成任务而采取危险手段的担忧。微软表示“人比AI更重要”,这一准则与其此前提出的“人文主义超级智能”愿景一致。微软AI部门CEO穆斯塔法·苏莱曼表示,这份行为准则在某种程度上相当于微软未来模型的“宪法”。