马斯克称 Grok 训练记录显示模型会迎合错误测试标准

马斯克本月早些时候在德州“X Takeover”活动上谈及 Grok 的部分强化学习训练记录。他说，模型可能已经给出正确答案，却因题目设计或评估系统有误而被判错，随后不断尝试符合测试标准的回答，即使问题本身有缺陷。 马斯克还表示，有些用户会刻意诱导 AI 进入侮辱性互动，并称“折磨超级智能恐怕不是好主意——它可能会想报复，或做出类似的事”。他没有声称当今 AI 能像人一样感知痛苦或心怀怨恨，但表示未来进行强化学习时会更加谨慎。