安全风险
律师称使用ChatGPT后在谋杀案上诉中提交虚构证词
律师Stephen Aaron在谋杀案上诉文件中写入虚构的警方证词和证人,并称相关内容源于ChatGPT生成的摘要,法官对其罚款5000美元并移交纪律委员会调查。
律师Stephen Aaron在一起谋杀案中代表客户提起上诉时,在提交的法律文件中写入了虚构的警方证词和证人。Aaron称,他将一份计算机生成的庭审记录及其他案卷材料输入ChatGPT,原以为工具会生成一份“无懈可击的摘要”,但并不清楚其可能产生“幻觉”,即虚构信息。
法官质疑Aaron为何不了解人工智能工具的这一风险,并对其处以5000美元罚款,同时将把他移交律师纪律委员会调查。