Facebook 发起 Deepfake 检测挑战赛

服务资讯 来源:Techcrunch.cn 发布:2019-09-09 浏览:648

摘要:深度学习是一个充满希望的新领域,而由深度学习或所谓 “Deepfake” 驱动的图像和视频篡改则代表着该领域奇怪和可怕的一面。如果我们要打击这些令人毛骨悚然的创作,我们将需要以火攻火,以毒攻毒;Facebook、微软和很多其他公司正在联合起来,以帮助开发能够检测 Deepfake 的机器学习技术,而他们希望你也能参与进来。

尽管这仍然是一种新现象,但我们可以说正处在一场检测方法对抗生成方法的军备竞赛之中。现在经常都有 Deepfake 的内容出现,它们看上去越来越逼真,尽管这些内容大多数时候无伤大雅,但你的面孔被人嫁接到性爱影像中的可能性是确实存在的,而很多名人已经不幸沦陷了。

Facebook、微软以及多所大学院校(包括牛津大学、加州大学伯克利分校以及麻省理工学院)共同组成了技术行业联盟 Partnership On AI。作为这个联盟的一份子,Facebook 正在致力于通过更好的检测技术来打击对 Deepfake 的滥用。

Facebook 首席技术官迈克·斯科洛普夫(Mike Schroepfer)在周三的媒体电话会议上表示:“人工智能领域最有趣的进展发生在数据集有明确基准时,可供研究人员进行探究。” 用于物体识别的数据集可能是数百万张普通物体的图像,用于语音转录的数据集则可能是数小时不同类型的语音,但我们没有这样的数据集用于检测 Deepfake。

在今年早些时候 TechCrunch 举办的机器人和人工智能活动上,我曾与嘉宾讨论过这个挑战,视频如下:

幸运的是,Facebook 计划投入约 1000 万美元的资源来发起 Deepfake 检测挑战赛(Deepfake Detection Challenge)。

“创建这些数据集可能具有挑战,因为我们需要确保参与其中的所有人都清楚这件事并给予同意,这样他们就不会对数据集被使用感到意外。” 斯科洛普夫继续道。而由于大多数 Deepfake 内容都是在未得到任何知情同意情况下制作的,所以把它们用于研究是非常不妥的。

因此,Facebook 及其合作伙伴开始在凭空制作一些 Deepfake 内容。斯科洛普夫表示:“我们需要一个源视频数据集,然后是一个可以映射到其上的个人数据集。然后,我们的工程人员花费时间利用最新最先进的 Deepfake 技术来生成经过篡改的视频,构成数据集的一部分。”

虽然你完全有理由认为 Facebook 会利用自己平台的数据来做这件事,但事实并非如此,他们花钱请来了演员。

这个数据集将提供给感兴趣的各方,他们将能构建解决方案并对其进行测试,并将结果放在一个排行榜上。到了某个时候,Facebook 将发放现金奖励,但具体细节现在还不清楚。如果一切顺利的话,这将在学者和研究人员之间激发激烈的竞争。

“我们需要研究界在一个开放的环境中充分参与,以开发能够检测和缓解多媒体内容篡改不良影响的方法和系统。” 马里兰大学的拉玛·切拉帕(Rama Chellappa)在一份新闻稿中表示,“通过开放一个包含真实媒体和篡改媒体的大型数据库,这项挑战赛将激发并为研究界赋能,让他们共同应对这一迫在眉睫的危机。”

Facebook 计划在今年 10 月的国际计算机视觉大会(ICCV)上对数据集进行初步测试,而数据集正式上线则定于今年 12 月的神经信息处理系统大会(NeurIPS)。

翻译:王灿均(@何无鱼

原    文:Facebook is making its own deepfakes and offering prizes for detecting them
译    文:Techcrunch.cn

「Facebook」都使用了那些技术和工具?他又是怎样从0到1发展起来的?
点击查看「Facebook」-- 技术栈

免责声明:

  1. SDK.cn遵循行业规范,所有转载文章均征得作者同意授权并明确标注来源和链接。
  2. 我们十分尊重原创作者的付出,本站禁止二次转载如需转载请与原作者取得联系。
  3. 转载SDK.cn的原创文章需注明文章作者、链接和"来源:SDK.cn"并保留文章及标题完整性未经作者同意不得擅自修改。
  4. 作者投稿可能会经SDK.cn适当编辑修改或补充。
推荐工具 意见反馈