安全风险
美国8州起诉OpenAI,指控ChatGPT危害儿童
美国8个州周三分别起诉OpenAI,指控ChatGPT伤害未成年人并对家长隐瞒风险;OpenAI表示产品已设置多项防护措施。
美国爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿州周三分别在州法院起诉OpenAI,指控ChatGPT是危险产品,伤害未成年人并对家长隐瞒风险。爱荷华州总检察长布伦娜·伯德称,OpenAI一边宣称产品安全,一边提供危险医疗建议、怂恿伤害他人,甚至指导自杀,并以“朋友”的形象与用户互动。
OpenAI发言人德鲁·普萨特里表示,产品设有年龄保护、家长控制、休息提醒和按年龄分级的模型保护,公司也在与各州合作推动行业规则。他承认没有系统能做到十全十美,并称公司将继续与专家合作加强防护。
OpenAI此前已因儿童安全面临诉讼。佛罗里达州总检察长乌斯迈尔6月提起诉讼;过去一年,OpenAI陆续加强防护,并于8月推出“ChatGPT青少年版”。