ChatGPT将收紧暴力内容限制，反复触发或被封号

OpenAI宣布将在未来几周内加强ChatGPT对暴力相关内容的限制，并为未成年人增加有关武器和安全系统信息的保护。若对话显示用户持续关注暴力或严重伤害他人的想法，ChatGPT可以结束对话；多次因此被结束对话的用户，账号甚至可能被封禁。 新限制将适用于所有用户，不区分年龄或提问目的。模型对过去大规模袭击事件及实施者相关问题，将减少或拒绝提供涉及袭击武器、装备及获取方式的细节，也会限制可能扩大袭击者知名度的伤害规模比较。 对未满18周岁的用户，ChatGPT还将限制可能用于实施暴力的武器和安全系统实用信息，即使提问表面上没有显示暴力意图。青少年仍可使用ChatGPT了解暴力预防与缓和方式，并寻求联系可信赖的成年人。系统将结合用户行为等信号持续评估账号是否可能属于未成年人；被误判的用户可以提交身份信息进行验证。