旧金山起诉Meta允许AI生成儿童虐待内容广告

发生了什么

据Wired AI报道，旧金山城市检察官向Meta发出停止令，要求停止允许包含AI生成儿童性虐待内容的付费广告，并解释审核漏洞。此前WIRED报道Meta近期运行了350多个此类广告，将未成年人静态图片转化为视频。Tech Transparency Project发现这些广告在Facebook、Instagram和Threads上针对欧盟、美国、澳大利亚和印度超过29,000个账户。旧金山城市检察官David Chiu批评Meta未能解决已知问题并从中获利。