首页 > 资讯 > 商业 > 正文
2024-05-16 07:45

Meta是否已经准备好应对女性公众人物的人工智能色情假照?它的监督委员会想知道

  • 我该监督委员会正在调查两起人工智能生成女性公众人物图像的案件。
  • 其中一起案件涉及Facebook上一名美国女性的色情深度假照片。
  • 董事会会审查我的这是关于如何处理显式人工智能图像的策略。

meta的监督委员会周二宣布,将调查该公司关于人工智能深度模仿女性的政策。

这家科技巨头的董事会表示,他们正在调查两起具体案件,一起是在Instagram上,另一起是在Facebook上。

其中一起案件涉及一张人工智能生成的美国女性公众人物的裸体图像,一名男子正在抚摸她。这个人物的名字在标题中被命名,并被发布在一个人工智能创作的Facebook小组中。

本文仅对Business Insider订阅者开放。成为业内人士,现在就开始阅读。有账户吗?.

meta的监督委员会没有具体说明人工智能deepfake使用了哪位女性公众人物。

监督委员会表示,在Facebook群中分享这张人工智能生成的裸照之前,已经有另一个用户发布了这张裸照。这张露骨的照片因违反了欺凌和骚扰政策而被删除,原因是“贬损性的ps或绘图”。

发布照片的用户提出上诉,但被自动系统拒绝。该用户随后向委员会提出上诉。

今年1月,泰勒·斯威夫特在X上的色情假照在网上引起了轰动。许多照片显示这位流行歌手在足球场馆进行性行为。

有关的故事

一名经过验证的用户在X(以前的Twitter)上上传的一篇帖子吸引了超过4500万的浏览量,直到大约17小时后才被版主删除。

另一项调查涉及人工智能生成的一名裸体女子的图像,该图像类似于印度的一名公众人物。该内容发布在一个只分享人工智能生成的印度女性照片的Instagram账户上。

在这种情况下,meta在报告了两次之后未能删除内容。用户向董事会提出上诉,meta发现其保留内容的决定是一个错误。随后,该公司以违反欺凌和骚扰社区标准为由删除了该帖子。

该委员会表示,它选择这些案例是为了看看meta是否有效地处理了明确的人工智能生成的图像。

政治家、公众人物和商界领袖都公开谈论深度造假及其带来的风险。

白宫新闻秘书卡琳·让·皮埃尔此前曾表示,对深度造假的执法不严对女性和女孩造成了不成比例的影响,“她们是压倒性的目标”。

让-皮埃尔还表示,虽然立法应该在解决这一问题上发挥作用,但社交媒体平台应该自行禁止有害的人工智能内容。

微软首席执行官萨蒂亚·纳德拉称泰勒·斯威夫特的裸照“令人震惊和可怕”,并呼吁对这些照片进行更多保护。

不要只看色情片;深度造假也可以用来影响选举。人工智能生成的电话伪造了乔·拜登总统的信息,已经出现在初选中。

meta的监督委员会希望公众对这两起案件进行权衡。它要求就如何解决这一问题提出建议,并就其严重程度提出反馈意见。

该机构在公告中表示,监管委员会将在未来几周内审议这些决定,然后公布结果。虽然委员会的建议不具有约束力,但meta必须在60天内做出回应。