推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

2019-11-12 15:009378互联网未知

编者按:本文来自微信公众号“机器之心”(ID:almosthuman2014),原创 Synced,作者 张倩、蛋酱,36氪经授权发布。

昨天,推特正式发布了首个反 Deepfake 策略草案。该公司表示,如果 Deepfake 内容威胁到某人的人身安全或可能造成严重伤害,他们会将该内容从推特上删除。目前,推特还在为这项草案征集公众意见。

推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

还记得火遍全网的换脸 APP「ZAO」吗?这款应用一经上线就引爆了社交网络,将换脸的门槛拉到新低,只要下载一个 APP 就能轻松玩转换脸。

推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

换脸一时爽,但一旦被滥用,可就不能一直爽了。10 月份的一份调查报告显示,目前的 Deepfake 视频 96% 仍为色情内容,会对广大女性造成极大的困扰。此外,美国等国家的政客也担心 Deepfake 会被用于抹黑政客、干预大选,所以一直非常警惕,并敦促各大科技巨头出台相应措施。

作为响应,昨天,推特公布了一版关于打击 Deepfake 策略草案的细节。

这家社交媒体表示,当发现有人上传试图引导大众或者混淆视听的 Deepfake 文件时,他们会做出以下处理:

    在涉及 Deepfake 视频、图像等文件的公开推文旁边,进行相应提醒;

    在用户试图「分享」或「点赞」Deepfake 文件的推文之前,进行警告性提示;

    添加一个链接(指向新闻报道或者推特 Moment),以便人们可以参考更多来源来判断这条确实是 Deepfake 文件。

    推特表示,如果一个 Deepfake 内容威胁到某个人的人身安全或可能造成严重伤害,他们会考虑将该内容删除。

    目前,该公司正在进行一项调查,征集用户的反馈意见。调查结果显示,用户认为,如果一个 Deepfake 内容对某人的心理健康、隐私、尊严、财产或其他方面造成威胁,该内容也应该被删除。

    该管管Deepfake了

    在 AI 技术的加持下,Deepfake 视频等内容数量激增,仅去年一年就翻了一番。这让人们更容易制作以假乱真的音视频文件,但当这种技术变得人人可用时,事情就越来越危险。因为它导致了「眼见不一定为实」。

    2017 年底,Deepfake 刚刚在 Reddit 上火爆起来,网友们群起而入,短时间内就出现了大量 AI 换脸的视频——但问题在于,这个「Deepfakes」社区慢慢变成了色情作品的聚集地,最后被彻底关闭。

    今年 7 月份的时候,有一款叫做「DeepNude」的「自动脱衣」APP 一度火热,但又迅速下架。它的功能很简洁却又很恐怖:APP 可借助神经网络自动「脱掉」照片中女性身上的衣服,从而展现其裸体。

    推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

    除了以上不可描述的应用,Deepfake 在政治上也容易被不轨之徒所利用。

    比如在政治选举活动中,Deepfake 可以制作某位候选人从未说过或做过的事情的文件,无中生有或者歪曲事实,故意破坏该候选人的声誉。

    几个月前,美国民主党议员南希·佩洛西(Nancy Pelosi)在美国进步中心的一段演讲视频在 Facebook 上疯传。视频中佩洛西的语速被降到了原版的 75% 左右,同时音调也被人为调高,阴阳怪气,宛如醉酒一般。这条恶搞视频对当事人的心理产生了很恶劣的影响。但当时 Facebook 拒绝下架该视频。

    推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

    该事件引发了美国政客对这些大型社交媒体的不满。有消息称,在 Facebook 决定保留佩洛西「醉酒」的视频之后,扎克伯格曾试图打电话给佩洛西,探讨社交媒体假视频的应对方案,但却被佩洛西拒接。之后,美国政府不断呼吁社交媒体加强对虚假视频等内容的监管。

    10 月初,参议院情报委员会的两名成员 Mark Warner(D-VA)和 Marco Rubio(R-FL)呼吁大型科技公司们(包括 Facebook,推特,YouTube,Reddit 和 LinkedIn)共同制定一项计划,联手打击平台上的 Deepfake。为了配合这项计划,推特在当月晚些时候宣布了自己的下一步计划,并寻求有关该策略的公众反馈,所以我们才能看到昨天公布的这项草案。

    推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

    除了推特,其他科技巨头也没闲着

    其实,除了推特之外,Facebook、亚马逊谷歌等科技巨头也采取了一系列抵制 Deepfake 假视频泛滥的措施。

    今年 9 月份,Facebook 宣布将斥资 1000 万美元,与微软、Partnership on AI 及多所高校共同发起一场 Deepfake 检测挑战赛。他们通过用 GAN 等工具生成的假视频来测试检测工具的效果。

    推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

    10 月份,亚马逊也宣布支持这场挑战赛,为机器学习专家提供「技术支持和指导」,并将向需要云服务以完成检测工作的团队提供 100 万美元的 AWS 积分。此外,他们还将为竞赛提供数据集等帮助。此外,该项目还涉及来自康奈尔科技大学、麻省理工学院、牛津大学、加州大学伯克利分校、马里兰大学帕克分校和纽约州立大学奥尔巴尼的学者。

    当然,在这种公益活动面前,「不作恶」的谷歌也不甘落后。今年 10 月份,谷歌宣布开源大型Deepfake 视频数据集,以支持社区对 Deepfake 检测的研究。为了制作该数据集,谷歌在过去一年中与多名有偿和无偿演员合作拍摄了数百个视频。

    然后,他们使用公开可用的 Deepfake 生成方法,基于这些视频创建出数千个 Deepfake 视频。这些真、假视频共同构成了 Deepfake 视频数据集。

    推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场

    即使 Deepfake 代表着人物图像合成技术的进步——但在监管和审查尚不够给力的阶段,大家面对的仍然是「泥沙俱下」。在走上正轨前,我们与 Deepfake 之间,恐怕还要经历几轮博弈。

    参考链接:

    https://techcrunch.com/2019/11/11/推特-drafts-a-Deepfake-policy-that-would-label-and-warn-but-not-remove-manipulated-media/

Copyright © 2002-2013 Copyright © 2012-2018 www.hexieshandong.com 和谐山东网_山东新闻门户_传播文明,和谐中国 版权所有备案号:6396416@qq.com