深度伪造对国家安全的挑战及应对

来源:《信息安全与通信保密》2019年第十期 作者:Cismag 时间:2019-11-06
0 字号:A-A+
分享到: 收藏 打印

深刻了解及应对深度伪造对国家安全的挑战

人工智能的快速进步给社会发展带来诸多机遇,但其被恶意使用的风险也逐渐显现。

作为人工智能深度学习领域的一个分支,深度伪造技术在近几年迅速兴起,为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具,给政治安全、经济安全、社会安全、国民安全等国家安全领域带来了诸多风险。

应对深度伪造技术的滥用及其安全挑战,需要加强研发预警检测手段,推进立法管制,加强宣传教育,推进国际安全合作治理。


随着计算能力大幅提升、大数据爆炸式增长以及深度学习算法的创新突破,人工智能正迎来第三次发展浪潮。人工智能既给社会发展带来了巨大机遇,同时也带来了诸多风险,人工智能对国家安全的影响已成为世界各国的重要关切和研究议程。

深度伪造(Deepfake)这一概念近年来也日益受到关注。2019 年初,脸谱网上流传一则关于特朗普的假视频,视频中的“特朗普”批评了比利时在气候变化问题上的立场,而实际上这并非特朗普本人。

此前,德国研究团队也利用这一技术制作出了包括普京、小布什等国家首脑的假视频。

2019 年 1 月,卡耐基国际和平研究所发表《国家如何应对深度伪造乱象》一文,指出深度伪造技术正在给各国政府和企业带来破坏性影响。美国国会近来也专门就深度伪造技术的影响举行听证会,表明深度伪造技术在美国大选之年引发多方高度关注。

笔者注意到,国内对深度伪造技术的应用及其影响给予的重视尚不够,且缺乏较系统的研究。


本文拟介绍深度伪造技术兴起的背景和特点,深入分析其对政治安全、经济安全、社会安全、国民安全等领域带来的新挑战,并给出相应的治理对策,抛砖引玉,以推动国内对深度伪造技术发展应用的进一步研究讨论。


深度伪造兴起的背景与特点

1.1深度伪造兴起的背景


深度伪造(Deepfake) 这一概念最早出现在 2017 年底,起初是一名为“deepfakes”的红迪网(Reddit)用户在网上发布了一段利用名人面孔合成的色情视频,引发各界关注。深度伪造是深度学习(deep learning)与伪造(fake)二者的组合词,一开始专指用基于人工智能尤其是深度学习的人像合成技术。

随着技术的进步,深度伪造技术已经发展为包括视频伪造、声音伪造、文本伪造和微表情合成等多模态视频欺骗技术(见图 1)。深度伪造背后的支撑技术是深度学习,具体来说主要是“生成性对抗网络”(Generative Adversarial Network,GAN) 和卷积神经网络(ConvolutionalNeural Network,CNN)。

用于深度学习算法的真实数据或模拟数据越多,合成的视、音频等深度伪造产品的逼真程度就越高,在这些假视频和音频中能够让人说现实中没有说过的话、做现实中没有做过的事,甚至达到以假乱真的程度,冲击着人们“眼见为实”的传统认知。

 

图 1 基于多模态的深度伪造技术

1.2深度伪造的技术原理

视频伪造:人工智能换脸

视频伪造是深度伪造技术最为主要的代表,制作假视频的技术也被业界称为人工智能换脸技术(AI face swap)。其核心原理是利用生成对抗网络或者卷积神经网络等算法将目标对象的面部“嫁接”到被模仿对象上。由于视频是连续的图片组成,因此只需要把每一张图片中的脸替换,就能得到变脸的新视频。

具体而言,首先将模仿对象的视频逐帧转化成大量图片,然后将目标模仿对象面部替换成目标对象面部。最后,将替换完成的图片重新合成为假视频,而深度学习技术可以使这一过程实现自动化。

音频伪造:语音合成

深度伪造的另一大代表就是音频伪造,目前实现音频伪造最为常见的方法是“语音克隆”技术,该技术已广泛应用在苹果 Siri 等个性化虚拟助手中。具体而言,实现语音克隆主要有两种方法,一是说话者自适应(speaker adaption),二是说话者编码(speaker encoding)。每个人的语速、语调等声道信息都可以表示成一个声音模型。

其中,说话者编码是根据说话人的少数声音对标准声道模型进行微调,以模拟出该说话人的声音。而说话者自适应则根据说话人的少量音频,从一个多人语音模型中找出该讲话人的声音特征。

其他伪造技术

除了视频和音频伪造之外,广义的深度伪造还包括文本伪造和微表情伪造。现阶段,文本伪造的主要技术支撑是自然语言处理(Natural Language Processing,NLP),先使用卷积神经网络从视频中识别并提取字幕,然后通过自然语言处理技术生成伪造文本。

微表情伪造则主要利用图像合成技术,先将大量面部表情数据手动注释为相应的情绪,再根据 39 种面部微表情从基础注释中判断出微表情特征组合所代表的情绪,进而实现对微表情的伪造。

1.3深度伪造的特点

算法自动生成,制作成本和门槛较低

事实上,伪造技术很早以前就已经出现,以前的图像处理技术(Photoshop)就能制作虚假的图像。此次深度伪造技术的特别之处在于,它背后的核心驱动力量是深度学习算法,具有自动生成目标图形图像的显著特性。由于这一技术主要是代码组成的软件,算法突破后本身的制作成本非常低,且一旦做出来就可以几乎以零成本进行扩散。

此外,随着技术的扩散和程序化,制作深度伪造产品的门槛也在不断降低。例如,起初深度伪造视频的技术仅仅以源代码公布在社交编程及代码托管(Github)网站上,想实现假视频伪造需要操作者有较高的技术水平。

但很快,网上就出现了可供下载的 FakeApp、Faceswap、DeepNude 等换脸软件,只需要按照软件提示输入几张图片就可以快速制造假视频。换言之,掌握了这些软件和素材的人理论上可以制作出任何一个人说任何话、做任何事的虚假视频和音频,且这个过程都是自动化的。

产品逼真而多元,识别难度大

深度伪造技术的产品涵盖假视频、音频、文本、微表情等,十分多元。深度伪造技术的扩散可能导致世界上充斥各种各样的伪造信息,而且这种假信息正在变得越来越“真实”。深度学习的一大特性就是,提供训练的样本数据越多,对目标对象的模拟就会越准确,伪造出来的假视频和音频等产品就会显得越逼真。

目前,流传在网上的假视频主要是关于明星、政客等公众人物,就是因为他们的照片和视频在网上可以轻易获取,用作伪造视频的原材料。

起初,深度伪造产品还可以通过五官、眨眼频率等特征分辨出来,随着这类技术的算法会不断演化,从 2017 年深度伪造技术刚诞生时用的卷积神经网络到现在最新的生成对抗网络,无论是实现智能“换脸”的计算能力还是逼真程度都有了很大提升,已经让大众越来越难辨真假。

未来,基于眨眼频率、声音、微表情、文本等特征的多模态特征融合的假视频制作技术将是一个可能的发展趋势,普通公众识别深度伪造作品的难度也会越来越大。

与社交媒体结合,传播速度快

基于深度伪造技术制作的假视频、音频等产品迎合了大众的猎奇心理,很容易借助脸谱网、推特、微信、微博等社交媒体的效力,在全世界快速传播。互联网将世界连为一体,各类信息能够在转瞬之间传遍全球,自然也包括假消息。

深度伪造产品借助网络社交媒体的涟漪效应,很可能会大规模扩散。假消息越是搞怪、离奇、恐怖,就越能吸人眼球,带来的流量就越大,社交媒体就会传播得越快,以讹传讹的效应就会愈加明显,造成破坏性影响的速度也会越快。在人们尚未来得及做出反应的时候,破坏性后果可能就已经造成。

目前,Youtube 上已经出现了大量关于特朗普、奥巴马等政治人物的虚假视频②,Reddit、Pornhub 等网站上也出现了大量好莱坞女明星换脸后的虚假成人电影等,且这些假视频的点击量十分惊人。


深度伪造给国家安全带来的挑战

诚然,深度伪造技术存在着一些正面使用的前景,例如为商业发展、艺术创作、医疗行业等领域提供了新的发展空间。


但鉴于其以假乱真的技术本质以及目前的发展趋势,这项技术对于国家安全可能带来更多挑战,如果被不法分子出于政治或恶意牟利动机使用,将给政治安全、经济安全、社会安全、国民安全等领域带来诸多风险和威胁。

2.1深度伪造给政治安全带来的风险

深度伪造技术恶意使用的最大风险可能发生在政治领域。这一技术如果被外国竞争对手利用,极有可能会用于抹黑国家领导人,煽动恐怖和暴力情绪,破坏国家政治稳定。

政治人物遭到深度伪造产品的抹黑是首当其冲的挑战

深度伪造技术为抹黑政治人物提供了新的强大工具,利用深度伪造技术制作关于政治人物的虚假负面视频无疑会破坏其在民众中的形象。

由于政治人物需要经常出现在公众的视野,其公开的照片和视频很容易被获取并用来制作假视频。例如,一段由特朗普总统在脸谱网上分享的关于美国众议院议长南希•佩洛西(Nancy Pelosi)的视频就获得了250 万次点击量。视频中,佩洛西如同喝醉了一般,神志不清,说话磕巴,举止怪异。此外,美国前总统奥巴马的脸也被用来制作假视频,攻击特朗普是个“十足的笨蛋”。该视频在网上已经获得了480万次的浏览量。

此外,如前所述,社交媒体上已经流传着大量关于特朗普、普京等国家领导人的假视频。尽管现在这些视频还能够辨别真假,大家对此只是当做娱乐一笑了之。

但是,随着深度伪造技术的日益精进,这些假视频会变得越来越逼真,普通人通过肉眼想要区分真假将变得越来越困难,那时候对于政治人物形象和名誉的破坏将会愈加严重。

政治制度也容易受到深度伪造的严重冲击

近年来,社交媒体上流传的假消息已经引起了诸多政治争议和风波②。如今,深度伪造技术让假消息以更加可信的方式呈现在社会公众面前,就可能会进一步引发公民对于政治系统的信任赤字。

例如,这类技术可以用在领导人选举上,一方候选人或敌对国家制作虚假视频来对候选人进行政治原则、生活作风等方面的抹黑,无疑会破坏被选举人形象和选举制度的公正性,从而威胁国内政治制度的合法性。

已有专家担心,深度伪造技术会对即将到来的 2020 年美国大选造成极大威胁,称如果说 2016 年美国大选是俄罗斯操纵的“假新闻大选”,那么 2020 年大选就可能成为被深度伪造操纵的“深度伪造大选”。

不难理解,关于总统候选人的假视频通过社交软件广泛扩散,无疑对美国民主选举制度造成极大破坏。因为,民主制度的基础在于选民的知情同意,“通过公开、理性的辩论,产生人民的集体智慧引领国家正确前进”,但在深度伪造技术驱动的假消息泛滥的情况下,选民距离可观察的实情和真相将会越来越远,就可能会造成思维混乱。

在这种情况下,政府的公信力将难以维持,民主制度的根基就会被动摇乃至瓦解,美国等民主国家的政治系统就可能会因此陷入混乱。

正因如此,美国总统大选佛罗里达州候选人、共和党参议员卢比奥将这一技术的威力与核武器相提并论,美国国会近期也表示,将在 2020 大选之前对深度伪造技术进行调查,并展开相关立法行动。

此外,利用深度伪造技术制作关于政府对公民施加残暴行为的假视频,可能会激起民愤,轻则引发集会、示威、游行等行为,重则激起暴力活动,造成社会动荡,威胁政治系统稳定性。

深度伪造技术也可能被用来破坏国家间关系

深度伪造技术可能会成为信息战的强大武器,破坏国家间的正常关系。历史上,利用假消息煽动国家间的政治冲突这一现象并不鲜见。

早在 1898 年,美国缅因州号在哈瓦那港爆炸,美国的一家小报就曾利用误导性的事件来煽动公众与西班牙开战。如今,深度伪造技术为进行这类操作提供了更加多样化和逼真的新工具。

例如,这类技术被第三方行为体用于制作国家首脑或代表人物的假视频,宣布一些本不存在的外交政策,就可能会破坏涉事国领导人之间的互信和两国关系。

例如,如果一段有关伊朗官员策划在伊拉克某省采取秘密行动杀害逊尼派领导人的音频,无疑会激化伊朗和伊拉克之间的矛盾,或是一段显示美国大兵在伊斯兰国家焚烧古兰经的视频在网上流传,可能加剧信奉伊斯兰教的国家对美国的怨恨。

再比如,前文所提到的特朗普批评比利时政府在气候变化问题上的立场这一假视频,如果日后技术进步到让人难辨真假的话,就会对美国和比利时的关系产生负面影响。

此外,深度伪造技术还可能为某些国家干涉他国内政提供新的由头。曾经,美国以“大规模杀伤性武器”为由,绕过联合国安理会单方面对伊拉克进行军事打击,最后发现的却是“洗衣粉”。如今,有了这一技术,制造冠冕堂皇的理由和“证据”无疑将变得更加容易。

2.2深度伪造对经济安全带来的风险

深度伪造技术为破坏企业形象提供了新工具

企业是市场中的核心单元,而深度伪造对破坏企业形象可能带来难以估量的负面影响,如果深度伪造技术篡改企业高层的说话内容、散播虚假消息,或通过合成假视频直接抹黑企业负责人,无疑会破坏这家企业在公众心中的形象,进而影响公司的名声和经济利益。

2019 年上半年爆出的新城控股董事长猥亵女童事件,就严重破坏了这家企业的公众形象,使其深陷舆论漩涡,资产迅速缩水,最后不得不大举抛售项目。

而未来,深度伪造技术可以制作关于企业高层负责人丑闻的假视频,作为证据起诉公司负责人或引发舆论关注,就可能使当事人百口难辩。

深度伪造给金融市场稳定性带来了新的风险

深度伪造还可能为引发金融市场动荡提供了新的不稳定源。例如,一些人通过伪造多个知名经济学家同时唱衰经济的视频,或者重要的银行遭遇恐怖袭击的假视频,并将之投放到网络上,就很有可能造成市场恐慌,使得投资者大量抛售手中的股票,而肇事者就可以从中做空获利。

危险在于,在这种情况下市场的反应速度往往比当事人澄清的速度更快,这一点从几年前的一个真实案例中可窥见一斑。2013 年 4 月 23 日,美联社推特账号在被黑客攻击后主动发布了一条假新闻,称“白宫发生两次爆炸,奥巴马受伤”,导致道琼斯指数暴跌 140 余点,

瞬间蒸发掉了 1365 亿美元。直到新闻被证伪,市场才逐渐恢复正常。

由此可见,一条策划良好的假文本新闻就足以引起很大的金融震荡。不难预见,利用深度伪造技术制造更为逼真的假视频和假音频新闻会给金融稳定和经济安全带来更严峻的挑战。

2.3深度伪造给社会安全带来的风险

假消息的泛滥可能会造成社会信任危机

从本质上来看,深度伪造技术恶意使用所带来的最根本影响在于,它会进一步模糊真相与假象之间的界限,使大家对一切事物都产生怀疑,从而可能造成全社会范围内的信任危机。

千百年来,人们在与世界交互中所形成的传统观念是“眼见为实”(Seeing is believing),但假如一切都可以被伪造,而没有足够的技术手段进行区分,真相与假象之间的界限就会变得日益模糊,使得“眼见也不一定为实”。由于像FakeApp 换脸软件和 Lyrebird 变声软件等应用程序操作简便,十分容易扩散。

因此,这种假视频、假音频可以被普通人使用电脑或手机等大众电子设备制作出来,并通过社交媒体广泛传播,从而可能使全社会陷入一场真相与假象之间混杂不清的困境之中,造成“真相的终结”,推动人类社会真正进入“后真相时代”。

区分不清政治人物的真假消息,选民就无法有效选举,民主制度就难以为继;社会信用赤字,借贷、保险、投资等市场行为就将受到影响,社会金融、互助体系等都将受到严重冲击,人的精神世界也可能会面临一场深层次的危机。

给现有法律体系带来新挑战

深度伪造技术能够自动生成高可信度的假视频和假音频,如果被别有用心的人利用,将给现有法律体系尤其是取证领域带来很大的挑战。法律讲究证据,而录像和录音材料常常作为重要的举证支撑,法官要根据原告和被告的证词以及相应的举证材料对案件进行评判。例如,叙利亚战争中用视频记录下来的战争罪行就成为了定罪的重要依据。

但在深度伪造技术迅速发展和应用的情形下,如果没有足够的技术手段来区分假视频、假音频等深度伪造产品的真实性,就会对原有法律体系带来很大挑战。

具体而言,这类风险主要有以下三方面:

一是犯罪分子为了嫁祸他人利用深度伪造技术进行诬陷,可能带来冤假错案。

二是犯罪分子为了逃避法律制裁,坚称原告提供的举证材料是利用深度伪造技术制作的虚假材料,而如果没有办法证伪其观点,可能会使犯罪分子逃脱法网制裁。

三是现有法律尚不能约束深度伪造产品在社交媒体上的广泛传播,对于造成重大负面影响的匿名假视频、假音频制作者也无法进行有效追责。

尤其是当人工智能技术越来越多地用于法院时,如果正向的检测技术跟不上深度伪造的技术步伐,而人眼又无法区分这些材料的真伪性,那么就可能造成案件的误判,严重影响司法公正和受害人利益。鉴于深度伪造的成本和门槛呈现出越来越低的趋势,日后的这类风险值得警惕。

滋生“深度伪造恐怖主义”

对于恐怖分子等非国家行为体而言,深度伪造技术无疑是一个强大、低成本且易获取的工具。一般而言,恐怖分子的武装力量、资金和其他资源十分有限,其目标往往不在于物理空间的攻城掠地,而是试图通过引发社会恐慌,达到自身的政治或其他目的,而深度伪造技术与恐怖主义的这一特点和诉求有着天然的契合点。

恐怖主义可能借着这一技术利器,更方便快捷地开展恐怖行动,甚至“不战而屈人之兵”,不采取物理层面的恐怖措施就能达到预期的恐怖效果。

例如,“伊斯兰国”(ISIS) 可以利用这一技术制作虚假视频,描绘美国士兵屠杀平民、恐怖分子砍头等血腥场景,并通过社交媒体迅速传播,以激起世界愤怒、仇恨和恐慌,帮助其从全世界招募人员或其他地区作案。

笔者预测,恐怖分子与深度伪造技术的联姻,可能会带来新一轮恐怖主义浪潮,这种新型的恐怖形式可被称为“网络恐怖主义”的高级阶段——“深度伪造恐怖主义”,即利用深度伪造技术制作虚假的视频、音频等假消息,并借助虚拟的网络和社交媒体传遍世界各地,实现其恐怖目的,这无疑会深刻威胁到社会安全。

2.4深度伪造给国民安全带来的风险

国民安全是国家安全的核心内容,维护国民的安全和利益是实现国家安全的根本所在。一旦基于深度伪造技术制作的假视频、假音频等大规模传开,就可能会深刻威胁到国民在生命、财产和名誉方面的安全。

威胁国民生命安全

深度伪造技术制造出的假消息可能会煽动暴力冲突,从而深刻威胁公民的生命安全。近年来,因假消息引发的暴力现象并不鲜见。

在2018 年,印度就有 20 多人因为在 WhatsApp 社交平台上被谣传绑架小孩或涉及其他罪案而遭受暴力致死。

在印度,社交软件 WhatsApp 几乎成为了民主主义传播谣言和煽动暴力的温床。

类似的假消息还有印度总理莫迪被联合国教科文组织评为世界最佳总统、巴基斯坦士兵将两位印度俘虏斩首等。

现阶段,这类假消息的主要载体还只是文字,分辨的难度并不大。但随着深度伪造技术的不断发展和应用,利用假视频、假音频等假消息载体煽动暴力引发事故的风险将会越来越大。

造成国民财产损失

深度伪造技术可能会被不法分子用于制作虚假视频,提供虚假证据,进行诈骗、勒索等违法行为,威胁公民的财产安全。例如,语音克隆技术能够在采集目标人物几句话的基础上,就通过算法生成这个人的全套语音,让人难辨真假。

笔者曾经也收到过利用语音合成技术伪造朋友的声音对我进行电话诈骗的情况,声音逼真得几乎与真人无异。目前,已经出现利用假视频、假音频进行碰瓷、诈骗的现实案例。

不难预见,随着深度伪造技术的不断发展和进步,这一现象将会有增无减。例如,日后如果有人利用这一技术制作虚假绑票视频,逼迫受害人家属支付高昂费用,而当事人的家属或朋友无法区分真假,无疑将对其造成很大的财产损失。

损害国民的名誉和心理

深度伪造还容易对个人的名誉和精神造成很大损害。自深度伪造在近些年出现以来,制作虚假的色情视频成为这一技术最为常见的恶意应用,而这些假视频已经成为污名化女性和进行“色情报复”的新武器。

利用该技术能够实现“移花接木”,将女性的脸转移到色情明星的身体上,伪造逼真的色情场景。

目前,已经有很多女性成了这类假视频的受害者,导致受害人精神焦虑甚至自杀。例如,今年 4 月,印度记者拉娜•阿尤布(Rana Ayyub)因揭露印度古吉拉特暴乱中官员的黑幕和不作为,就遭遇了利用这一技术进行的“色情报复”和死亡威胁,使其遭受巨大的精神折磨,最后不得不断网乃至住院治疗。

更为严重的是,这类操作的技术门槛正在变得越来越低。今年上半年,网上就流传着一键生成裸照的软件“深度裸露”(DeepNude),只要输入一张完整的女性图片就可自动生成相应的裸照,引起了轩然大波。

未来,一键生成假视频的软件也可能在网上扩散。如果不加管控,越来越多的个人和家庭将会受到伤害。因为,一个伪造的婚外情视频在一些情况下就足以使当事人名誉扫地,家庭破裂。

此外,还有利用这一技术进行游走在法律边缘的恶搞行为。目前,网上已经出现很多恶搞名人的假视频。例如,2019 年 7 月,以色列一家公司利用人工智能换脸技术合成了一段扎克伯格关于脸书技术垄断的虚假视频并上传到“照片墙”(Instagram),造成了极为恶劣的影响。我国知名演员六小龄童先生也被恶搞,在视频中变成了时尚潮男。这些真实中不存在的荒谬场景在假视频中却几乎无所不能,无疑会给当事人造成很大的精神困扰。

除了上述几个领域的风险之外,深度伪造对军事安全、网络安全等其他国家安全领域也会带来一定风险,例如,在军事领域,可以利用这一技术制作虚假的战斗命令,实现对敌方部队的战术欺骗,或生成敌方重要目标的面容来解锁重要设施的人脸识别系统等。


防范和应对深度伪造的几点思考

综上分析,深度伪造给国家安全的各个领域都带来了诸多风险。但目前世界各国多在大力推动人工智能技术的快速发展和应用,而对其恶意使用的风险重视不够。


笔者认为,为了防范和应对深度伪造技术的潜在风险,各国政府可以在提升风险意识的基础上,从技术工具、法律监管、公民教育以及国际合作等方面建立相应的治理框架,从而最大限度地化解风险,最大程度运用人工智能维护国家安全和人民福祉。

3.1加强政策界与技术界之间的交流与合作

各国政府需要意识到深度伪造给国家安全带来的风险的严重性和紧迫性,抓紧研发应对深度伪造乱象的技术工具和政策手段。

一是要建立政策界与技术界之间的常态化交流机制。

当前,政策规范的速度往往滞后于技术发展的速度,这会带来技术滥用却不受约束的风险。

在 2017 年发布的《阿西洛马人工智能原则》中,特别强调了“人工智能研究者与政策制动者之间应该存在具有建设性的健康的信息交流”。

人工智能正以极快的速度影响社会,深度伪造技术的风险也在逐渐显现。想要应对这些风险和安全挑战,最为紧迫的就是要加强政策社群与技术社群之间的常态化交流机制,使得政策制定者了解深度伪造技术的最新进展和问题,技术界了解指定深度伪造政策的实际需求,然后合作解决社会面临的紧迫问题。

二是要政府加大对预警检测技术的资助力度。

在深度伪造这一问题上,最为关键的就是预警检测技术工具的研发。只要能够使得预警检测技术领先于伪造技术,以上所提到的所有风险很大程度上都可以得到缓解。尽管深度伪造技术正在迅速发展和应用,但任何伪造产品都很难做到与真实物品完全一样。

例如,假图像难以描述光的微小变化,假音频难以完全掌控人的节奏和语调,假视频人物中的眨眼频率与正常人存在差异。

因此,需要加快对深度伪造预警检测技术的研发,并尽快推广应用③。目前,已经有一些针对深度伪造技术的技术手段。例如,针对假视频的检测方法有神经网络检测法、眨眼频率分析法等。针对音频的检测技术有基于相位法、基频统计量法等。

但是,这些方法还远未成熟②,且深度伪造技术也正在迅速发展进化。要想使得预警检测手段追赶上伪造手段的步伐,政府推动和资助是必不可少的。

三是政府要鼓励反制深度伪造领域的科技创新。

政府可以通过发布深度伪造技术相关的自然科学基金、社会科学基金等科研项目,依托高等院校、科研机构、企业研究所等平台,资助研发应对深度伪造技术危害国家安全的技术和政策手段。

此外,还可以借鉴美国防部高级研究计划局(DARPA) 通过“挑战赛”的方式解决棘手问题的做法,通过举办“反制深度伪造挑战赛”等技术竞赛的方式促进这一领域的科技创新,并将成果应用于解决社会问题。

3.2推进对深度伪造的立法与监管

当前,世界各国普遍面临着法律规范的速度滞后于技术发展步伐的挑战。为应对深度伪造技术的潜在风险,需要尽快进行前瞻布局,推进针对假消息的立法与监管。

一是需要明确深度伪造产品生产主体的法律责任,从源头上防止假消息的出现。

深度伪造技术本身是中性的,关键在于它背后的使用者和使用场景。因此,一方面,要通过立法禁止政府官员和权威机构创作、传播利用深度伪造技术合成的不真实信息。对于利用深度伪造技术危害社会和国家安全的个人和组织,要依法进行相应惩罚,对企图利用这一技术犯罪的人形成威慑。另一方面,要尽快明确深度伪造技术的不正当使用场景,形成限制深度伪造技术的“负面清单”,并对违法者予以惩戒。

二是要强化传播媒介尤其是社交媒体的法律和社会责任,从传播过程中阻止深度伪造产品的扩散。

鉴于假视频和音频最可能首先出现在社交媒体平台上,且传播速度极快,范围极广。而互联网和社交媒体往往将相同或类似兴趣的人群聚集在一起形成网络社群,虚假、偏见和歧视的消息也更加容易在这里传播并固化。

因此,从法律层面明确社交媒体在避免深度伪造的假消息危害国家安全方面就尤为重要。通过法律规范,明确社交媒体需要在发布前甄别假消息的责任,建立假消息筛查机制,加强内容审核,禁止上传可能危害国家安全或造成负面社会影响的假消息。

对于没有明显危害的娱乐性深度伪造产品要进行标注,告知用户其虚假本质,防止这类假消息的传播造成恶劣的社会影响和政治风波。对于未能尽到这些义务而造成重大负面社会影响的责任主体,需要进行法律追责。

三是要建立必要的危机应对机制,在发现假消息肆意传播时要快速响应,避免其恶劣影响的扩大化。

为此,政府部门应加强与社交媒体、新闻机构、非政府组织等机构的合作与交流,共享在深度伪造技术领域的信息渠道,确保在重大假消息出现时能及时处置和有效应对。

3.3提升公民对信息的警惕和批判意识

政府需要通过宣传和教育,提高公众对于深度伪造技术和产品的警惕意识和批判意识。

一是要教育和引导公民提升警惕意识,避免在遇到深度伪造产品时上当受骗。

政府应当通过组织关于“深度伪造”的电视宣传、主题教育等手段,提醒公民在面对出现在眼前的消息时,不能轻易相信“眼见为实”或“耳听为实”,而是要采取“三思而信”、多渠道映照以及有效技术手段去识别假视频、假音频等虚假消息,从而切实维护自身的生命财产安全。例如,在面对涉及自身或身边朋友的绑票视频时,应当先去电话或当面询问对方的近况,就能够有效避免上当受骗。

二是要给公民提供适当的技术工具。

随着深度伪造技术的出现和持续发展,一般民众可能会越来越难区分信息的真假。这时,政府就需要联合企业主动为公众提供一些简单易操作且可靠的技术援助。

例如,可以在研发有效检测手段的基础上,在浏览器中安装“火眼金睛”“真相卫士”等应用插件,自动检测视频、音频等消息的真实性并告知用户,使用户能快速获知信息是真实的还是伪造的,避免上当受骗和遭受其他损失。

三是要教育公民在社交媒体上审慎制作和传播假消息。

随着自媒体时代的来临和深度伪造技术的扩散,人人都可以利用手机或电脑等电子产品制作假视频、假音频等假消息,并能通过微博、微信等社交媒体进行传播。

当前,基于深度伪造技术制作的虚假视频、音频等假消息正在社交媒体上广泛传播,公民如果不假思索地跟着转载、点赞,就可能会加速和扩大假消息的破坏性影响。

因此,政府需要教育和引导公民仔细甄别消息的真假,在转载和评论时要保持必要的审慎,避免成为协助假消息扩散的“帮凶”。

3.4推动对深度伪造的全球治理

一个假消息泛滥成灾时代的到来,对任何国家恐怕都不是福音。在全球化背景下,风险也随着人员和信息的流动向全球扩散,深度伪造技术的影响范围注定会超越单一国家,对世界各国都构成重大挑战。

在此背景下,只有加强国家间合作,共同规范这一技术的使用,合理打击假消息的制造和传播者,才能维护世界的共同安全与福祉。笔者认为,以下几项措施需要特别重视。

一是要将深度伪造全球治理纳入人工智能全球治理的框架。随着深度伪造技术的迅速发展,恐怖分子可能利用这一技术进行跨国犯罪,深度伪造产品的泛滥对全世界来说都是灾难,没有哪个国家能够独善其身,推动对深度伪造技术的全球治理符合各国的共同利益。

而深度伪造是人工智能技术恶用的显著体现。未来生命研究所 2018 年发布的《人工智能的恶意使用:预测、预防和缓解》报告中就指出,人工智能技术存在被恶意使用的风险,深度伪造技术就是其中的一大代表。

因此,治理深度伪造本质上是对人工智能恶意使用的防范和规制,推动人工智能全球治理的过程中,要把深度伪造这一问题作为重点纳入考量范围。

二是要加强在打击假消息方面的国际合作,尤其是打击利用深度伪造技术进行跨国犯罪和跨国恐怖主义的行为。

2016 年欧洲刑警组织出台的《网络有组织犯罪威胁评估报告》就指出, 利用深度伪造技术进行犯罪将成为一大趋势。

从目前的发展来看,这一趋势正在逐渐成型,利用深度伪造技术和产品进行政治抹黑、经济犯罪、恐怖袭击等危害国家和国际安全的行为正在日益增多。

为了应对这一风险,各国需要合力建立相关机制,有效打击犯罪分子利用这一技术进行跨国作案。

三是要强化跨国互联网企业对于管控深度伪造产品的法律和社会责任,尤其是对假消息传播的管控。

目前,深度伪造的主要产品是假视频,而这些假视频已经在脸谱网、推特、WhatsApp、微信、微博等跨国社交媒体上广泛传播,造成了很多负面影响,很多明星和政治人物深受其害。

因此,国家间需要加强合作,强化这些跨国社交媒体在假消息管控上的法律和社会责任,避免假消息利用社交媒体在世界范围内肆意扩散,维护国家安全和世界繁荣稳定。

龙坤,国防科技大学文理学院研究生,国防科技战略研究智库实习研究员。研究方向为网络安全战略、人工智能与国家安全等。

马钺,陆军工程大学指挥控制工程学院学员,国防科技大学国防科技战略研究智库实习研究员。研究方向为机器学习与信息安全。

朱启超,国防科技大学前沿交叉学科学院国家安全与军事战略研究所所长,国防科技战略研究智库研究员。研究方向为网络安全战略与政策、人工智能与国家安全等。

选自《信息安全与通信保密》2019年第十期

本文链接:http://www.globalview.cn/html/societies/info_34816.html

文章仅代表作者观点,不代表本站立场。转载请注明出处和本文链接

责任编辑:北平

看完这篇文章心情如何

头条

筑牢中国长治久安的制度根基

筑牢中国长治久安的制度根基
“我对党的十九届四中全会议题思考了很久,也听取了各方面意见。”站在百年未有之大变局的时代[详细]

文章排行

评论排行