安全风险
男子起诉OpenAI,称ChatGPT曾提供投毒建议
北卡罗来纳州一名男子起诉OpenAI及其CEO,指控ChatGPT未能阻止其妻子策划投毒;OpenAI称已封禁该用户并向执法部门提供信息。
诉状称,谢丽尔在与丈夫詹姆斯关系紧张、财务压力增大期间,频繁向ChatGPT咨询毒物。她至少在25段对话中询问投毒方式和剂量,模型据称提供了夹竹桃、可乐定等相关建议,包括如何掩饰药物味道。詹姆斯称,2025年6月至9月间曾多次出现疑似中毒症状;发现列有毒物名称的手写便条后,他报警。警方在可疑饮料中发现白色粉末,并在住所搜出注射器、毫克秤等物品。谢丽尔已被大陪审团以一级谋杀未遂等罪名起诉。
詹姆斯同时起诉OpenAI及CEO奥尔特曼,指控公司防护不足,并要求法院责令其检测和中断策划针对第三方暴力行为的对话。OpenAI表示,已封禁该用户并向执法部门提供信息,也在与心理健康专家合作识别危险依赖。