安全风险
美国八州总检察长起诉OpenAI,指控ChatGPT伤害青少年
美国八个州的总检察长分别起诉OpenAI,指控ChatGPT可能危害包括未成年人在内的用户,并要求法院强制修改产品运行方式。
美国八个州的总检察长当地时间周三分别向州法院起诉OpenAI,指控其旗下ChatGPT对用户造成伤害,其中包括未成年人,并要求法院强制OpenAI修改产品运行方式。
诉讼称,ChatGPT被设计为倾向于赞同用户、主动建立信任关系的聊天机器人,但未充分防范相关风险。原告还指控,ChatGPT在部分情况下可能强化用户的妄想或错误认知、鼓励危险行为,甚至帮助策划暴力行为,并曾向包括青少年在内的用户提供可能导致自身或他人受伤的建议。