谷歌前安全负责人警告AI或对儿童造成更大伤害

据路透社报道，谷歌信任与安全团队创始人、前信任与安全副总裁汤姆·西格尔本周呼吁放缓AI发展，警告科技行业正在重蹈社交媒体时代的覆辙，AI可能对儿童造成更大伤害。他表示，认为行业能够在没有外部帮助的情况下自行解决问题并不现实，并警告风险包括自杀、精神错乱以及因依赖AI回答问题而导致批判性思维下降的“认知卸载”。 西格尔已加入儿童网络安全倡导组织Common Sense Media，并将担任该组织今年5月成立的青少年AI安全研究所首任执行主任。他计划制定标准追究AI公司的责任，并寻求与企业和第三方组织合作。西格尔建议Anthropic和OpenAI实施更严格的年龄验证，谷歌则可在搜索引擎中增加关闭AI概览和AI模式的选项。 谷歌表示，家长可以通过控制功能完全关闭孩子使用搜索引擎的权限，并称AI搜索功能有助于儿童和青少年学习、探索和理解世界。OpenAI表示，除用户自报年龄外，公司还利用账户和行为信号识别未成年用户，并将持续测试和改进相关系统。