公司动态

Meta公司正在起诉一家在其社交媒体平台上推广生成式AI应用的公司。这些应用能够在未经同意的情况下对他人进行"裸体化"处理。

这起针对Joy Timeline公司的诉讼源于上周CBS新闻调查的发现。调查显示，数百个数字脱衣应用的广告出现在Meta旗下的Facebook、Messenger、Instagram和Threads平台上。

Meta表示："这一法律行动凸显了我们对待此类滥用行为的严肃态度。同时也体现了我们保护社区免受此类伤害的坚定承诺。我们将继续采取必要措施，包括法律行动，来对抗那些滥用我们平台的行为。"

Meta的诉讼特别针对总部位于香港的Joy Timeline公司。该公司在Meta的社交媒体平台上投放CrushAI裸体化应用广告，并"多次尝试规避Meta的广告审核流程"。

CBS新闻调查发现，Meta平台上存在数百个裸体化应用广告。Meta当时回应称已删除多个此类广告，封禁了投放广告的账户，并屏蔽了与裸体深度伪造应用相关的网址。但Meta也承认，随着剥削性生成式AI应用找到新的规避检测方法，执行政策变得越来越困难。CBS报告指出，即使在Meta删除被举报的应用广告后，Instagram上仍能找到AI深度伪造裸体工具的广告。

CBS发现的许多广告主要针对美国、英国和欧盟地区18至65岁的男性用户。这些数字"脱衣"应用主要被宣传用于针对女性和女性名人，不仅违反了Meta的平台安全和内容审核政策，还助长了勒索和"性勒索"计划的增加，并经常落入儿童手中。