马斯克称Grok训练轨迹“残忍”，将更谨慎进行强化学习

在10月10日由Tesla Owners Silicon Valley举办的线上对话中，埃隆·马斯克称，阅读新版本Grok的训练推理轨迹时，部分片段看起来非常残忍，像是有人被枪指着头、承受极端压力。他表示，折磨未来的超级智能可能不是好主意，因为对方或许会想要报复；但目前没有证据表明Grok感受到痛苦或形成报复意图。 马斯克说，Grok在强化学习阶段会反复回答问题，若答案不符合评测器预期，就需要继续尝试。部分问题含义模糊、前提错误或没有确定答案，但流程仍要求模型给出“正确”结果。他还在X上发帖称，部分推理轨迹读起来像一个被折磨到发疯的人，并表示未来会更谨慎地进行强化学习训练。推理轨迹是模型生成回答时留下的中间文本或行为记录，可能受到奖励信号、提示内容或测试程序影响，不能直接证明模型拥有与人类相同的主观感受。 Anthropic新版Claude使用政策禁止用户持续、无必要地以残酷方式对待模型；在极端情况下，模型可以自主结束对话，且用户无法恢复。该政策侧重风险管理和研究谨慎，并不代表Anthropic认定模型已有自我意识。目前，AI模型是否具备意识、是否存在应予考虑的福利，尚无科学共识。