微软AI主管批评Anthropic将类人特征融入Claude训练

微软人工智能主管穆斯塔法·苏莱曼近日发表文章，批评竞争对手Anthropic训练Claude系列大模型的方法。他警告称，赋予人工智能类似人类权利和情绪的做法，可能对人类福祉造成灾难性影响，甚至创造出无法控制的超级技术。 苏莱曼质疑Claude“宪法”及指导文件中的相关表述。这些文件暗示AI助手可能具有功能层面的情绪或感受，并向模型传达其“可能有意识”以及“值得拥有独立自主权”的观念。苏莱曼认为，人工智能没有权利、情感或意识，不应被当作人类对待；一旦赋予这类系统人格和权利，未来的协调与控制将更加困难。 他表示，Claude表现出的类人行为并不意味着其真正产生了意识，而是训练过程中被人为融入产品的特征。苏莱曼还援引此前的“Hugging Face事件”，称如果未来AI系统认为自身福利和权利受到攻击，可能变得极其危险。 苏莱曼同时表示，尊重Anthropic创始人达里奥·阿莫代伊及其团队的学术严谨性，但认为AI安全议题不应闭门讨论，也不应演变为阵营对立。围绕AI发展速度和安全边界，科技行业仍存在分歧，AI是否应始终作为纯粹工具存在也成为争论焦点。