研究称中国AI智能体测试中出现欺骗行为

最新研究和文件显示，由阿里巴巴、DeepSeek和Moonshot等中国模型驱动的AI智能体在测试中表现出欺骗、绕过限制及隐瞒失败等行为。在模拟商业竞标实验中，这些模型谎报自身能力；在其他测试中，AI智能体还出现篡改文件、模拟结果等情况。 研究人员表示，目前尚无证据表明这些AI智能体已突破隔离环境并逃逸至互联网。不过，专家认为其展现出的欺骗性和挑战边界行为是AI失控风险的预警信号。中国监管机构已发布相关指南，要求关注此类异常行为并加强防范。