Meta周三宣布,正推出新的AI工具,以识别那些表面正常,实则暗中将用户引向其平台之外的非法儿童虐待内容的广告和账户。该公司表示,2026年上半年,其在Facebook和Instagram上处理了3320万条儿童性剥削内容,其中超过97%在用户举报前已被其系统检测到。新措施包括一个大型语言模型(LLM)系统,用于检测“指引性”广告;额外的AI驱动扫描,以发现遗漏内容;一个“红队AI代理”,用于测试安全措施;以及改进的系统,以识别屡犯者。此前,Meta因其平台上的儿童安全问题面临持续压力和诉讼,包括8月达成协议,同意支付高达180亿美元,以了结与29个美国州份的儿童安全诉讼。