Facebook对Deepfake的浅薄政策

Deepfake禁令掩盖了更深层次的问题

Fb大拇指朝下
盖蒂

值得一提的是,Facebook正在通​​过宣布以下事实来解决潜在的非常严重的问题,这是一件好事 禁止假货 和其他受控媒体。仅仅是善意还远远不够。

Deepfake是使用AI技术更改的视频,以创建欺诈性内容,这种欺诈性内容不易识别。除非,当然,除非是 马克·扎克伯格说 “我应归功于Spectre。Spectre向我展示了谁控制数据,谁就能控制未来。”

因为没有人会愚蠢地认为这是真实的,所以无论视频的操纵水平如何。对?

回溯到1938年。一位年轻的演员和导演播出了一部广播剧,讲述从外太空入侵的情况,听起来像是现场新闻广播。结果可能不会引起大众的歇斯底里,但是许多听众都认为这些宣告是真实的。学术研究人员估计,在600万听众中,有170万人认为这是真实的新闻,而其中120万人被吓坏了。奥森·威尔斯(Orson Welles)不经意间与他 世界大战 适应性,并且看不到AI。

现在到2020年,并与代表亚利桑那州一个地区的共和党众议员Paul Gosar会面。昨天他对公众话语的贡献是推敲了奥巴马总统与伊朗总统握手的可操纵形象。该推文现已被删除,但是该图像已经被删除了。 广为流传。这不是一个好假货。任何看过的人都可能会怀疑图像已被照相处理。但是,当然,很多人可能没有第二眼,特别是如果总统和敌对国家领导人之间的热情时刻符合他们的先入之见。

至于马克·扎克伯格,他可以利用一些好的新闻。这不是最好的一周,当您被称为“天真,被误导的孩子传播纳粹宣传”时, 备受瞩目的颁奖典礼。让我们仔细看看这个新的政策声明。

Facebook表示,如果满足以下两个条件,它将删除受操纵的媒体:

  • 它已经以普通人不知道的方式进行了“编辑或合成”,并意图误导他人,并且
  • “这是人工智能或机器学习的产品,可以将内容合并,替换或叠加到视频上,从而使其看起来是真实的”

请注意,从字面上看,媒体必须同时满足这两个标准,这意味着像Gosar欺诈(不是视频)之类的东西仍然可以接受。 Facebook声明,这确实确实是专门针对视频的政策。但并非所有视频。

例如,新闻报道表明,该政策不适用于讲话者南希·佩洛西(Nancy Pelosi)似乎之以鼻的臭名昭著的视频,因为它是使用减慢视频速度的简单编辑技术创建的,不需要深度学习或神经网络参与。该政策也不适用于拟作讽刺或讽刺的内容,因此它可能不适用于马克·扎克伯格(Mark Zuckerberg)谈论Spectre的令人信服的深造。

最后,也许是最重要的是,它显然没有解决的是朴素,老式的谎言。当然,如果您对图像或视频进行了操纵以使其看起来可以确认,那么使谎言更容易传播开来。但是书面谎言也很容易传播,就像令人惊讶的比萨盖特故事一样。换句话说,昨天宣布的利基禁令只是破坏了Facebook的整体政策,即不区分真相和谎言。 “我认为大多数人都不希望生活在一个只能发布科技公司认为是100%真实的事情的世界中,” 他说过,以拒绝对政治广告进行事实检查。

然而,主流新闻媒体(“主流”在这里并非贬义)-从《纽约时报》到《华尔街日报》,从CBS和ABC到BBC-仅发布他们认为是真实的新闻(当无论如何,都涉及新闻)。有时他们错了,但责任在于他们。扎克伯格的下一步行动当然是坚持认为Facebook不是发行商,而是第三方在其上发布内容的平台。

这是问题的根源,这个问题比AI操纵的视频要广泛得多。 Facebook和Google一起可能是世界上最强大的发行商,当然在美国也是如此。它是如此强大,如此深远,如此富有,以至于它仍然假装根本不发行。


最新