全国服务热线:18037802868

广西新闻中心 PRODUCT DISPLAY

广西丁晓东:多安全才是安全?从人脸识别与深度伪造看数据安全

来源: 发布时间:2020-02-25 19524 次浏览

来源:腾讯网络安全与犯罪研究基地    2019-12-27 9:24

2019年12月14日,2019互联网安全与刑事法制高峰论坛在北京举行,论坛由中国犯罪学学会、中国人民大学刑事法律科学研究中心、腾讯公司安全管理部共同主办。

中国人民大学未来法治研究院副院长丁晓东以深度伪造技术为例,提出风险感知和现实威胁是有差距的。人脸识别增大个人信息被过度采集滥用风险,需回归理性,把握隐私保护和产业发展利益平衡。

多安全才是安全?从人脸识别与深度伪造看数据安全

丁晓东

中国人民大学未来法治研究院

重点讲两方面的内容,一个方面,是对于安全的理解,第二个方面是人脸识别和深度伪造技术可能带来的数据安全问题。先从第二个问题开始讲。

一提到人脸识别技术,人们的第一反应是非常危险。现在越来越多的场景在使用人脸识别技术,这引起了我们很大的担忧。这种担忧当然是很有道理的,如同我在后面会讲到,人脸识别只能运用在风险防范极其有必要的场景中,不能为了一般性的安全而随意应用人脸识别技术。但是我这里想先说一点,其实在传统社会,人脸的信息在很多时候是最不受保护的,在非技术化时代,人脸事实上常常被认为是公共信息。蒙面以及罩袍反而被认为是不合理的。这个原理说明了什么呢?说明了人脸作为一种识别信息,其实恰巧是社会交往的必要信息,没有识别的可能,人与人之间的交往和信任就无法形成。

还有跟深度伪造技术相关的,大家的第一直觉可能会觉得深度伪造是很危险的技术,要彻底禁止,包括美国的一些法案中都进行了禁止,比如竞选60天之前不能使用深度伪造技术。深度伪造技术真的是今天才出现的吗?其实并不是。在非深度识别技术出来之前,已经有很多的伪造技术。比如PS技术,更原始一点的技术,剪辑技术,香港地区的例子,明明是有人去抢警员手里的枪,剪辑一下就变成了警察蓄意开枪。

因此这里有几点推论。

第一,人脸识别与深度伪造恰巧反映了两方面相反的风险与需求。人脸识别反映了识别他人的风险,深度伪造反应了不能识别他人/事件的风险。这一点首先就说明,我们生活在一个复杂的世界,不能用简单化的思维来思考问题。

第二,人脸识别的风险必须分场景讨论,不能笼统地以安全地利用要求推广人脸识别,也不能笼统地认为人脸识别就天然比其他个人信息更危险。深度伪造也是如此,深度伪造并不是现在才出现的问题,它的风险一直以来都有。因此,不论是对人脸识别,还是深度伪造技术,对于技术本身,必须采取分场景的讨论方式。

第三,新技术的发展应用肯定可以消除一些风险,也会带来一些新风险,但这并不意味着我们一定要大力推广它,或者法律上禁止它。大力推广和无原则适用,这是技术盲目乐观主义的思维方式,以为新技术就一定安全和有效,甚至认为学生偷懒也可以用人脸识别解决,这是非常不负责任的做法。不仅解决不了问题,事实上也会带来更多的风险。因为人脸技术也可能被破解,也会有人伪造面具,这样本来较小的风险问题,可能反而演变成较大的风险。另一方面,人脸识别等技术也可能有助于安全问题,甚至有可能有助于个人信息保护。例如使用人脸识别技术替代密码保护,可能有助于个人账户安全。比如说CCPA和GDPR提到对于个人访问权的保护,这项权利要求对于用户提出等访问需求,企业必须配合提供所有个人信息。但事实上是,这项权利其实伴随着很多风险,因为一旦他人假冒个人成功,个人所有的信息都会外泄。在此类安全保障要求较高的例子中,使用人脸识别技术,有可能可以解决验证个人身份的难题。

现在可以回到第一个问题,多安全才算安全?其实上面的分析已经给出答案了,这就是安全永远是一个相对的概念,而且我们感知到的风险和实际的风险可能未必一致。我们可能直觉上认为,某种技术或某种做法很危险,但实际上可能风险没那么高。反之亦然。因此,监管机构一定要根据实际的风险监管,而不是感知到的风险去监管。在个人信息保护的问题上,这一点尤其重要,不能单纯凭借我们感知到的风险来看待问题和解决问题。尤其不能贩卖恐慌,通过贩卖恐慌来全面推广或完全禁止人脸识别技术。就像是发展核电,我们不能因为核电听上去很危险,就完全禁用核电,因为禁用核电,采用火力发电,可能造成更多的污染和更高的死亡率。人脸识别与深度伪造技术亦是如此,人脸识别的风险应当通过具体场景中的风险判断来识别;深度伪造技术应当看这种技术是否给社会带来系统性风险,如果人们能够通过言论交流辨识和消除这种风险,则国家不应太过干涉,而如果可能引起社会系统性风险,则应当进行相应的监管。

总之,不能以绝对的静态的安全观来看待人脸识别与深度伪造技术。人脸技术在中国的某些场景中被过度使用,其实就是绝对的静态的安全观所导致。因为某些场景下出现了一点小问题,就希望推广人脸识别技术来解决。我们在看待人脸识别与深度伪造技术可能带来的风险时,同样应当秉持理性客观的立场。