围炉weiluflame

围炉,大学生思想、经历的交流平台。以对话为载体,发现身边有意思的世界。 香港大学|上海纽约大学|复旦大学|香港城市大学|香港中文大学|北京大学|中国人民大学 | 清华大学

围炉夜话:今夜,我们聊聊人脸识别 | 围炉 · NYUSH

(edited)
今天,你刷脸了吗

你“ZAO”换脸了吗?8月31日凌晨,一个名叫ZAO的应用瞬间火遍网络,除了指数级增长的下载量和使用量,关于技术问题、隐私问题、安全问题的争议也此起彼伏,备受关注。9月1日,ZAO运营团队即被工信部约谈,平台火速更新用户协议并公开致歉,大起大落令人唏嘘。然而ZAO并非唯一处在风口浪尖的应用,恰恰相反,但凡涉及人脸识别的应用和新闻总是处于舆论中心,饱受争议。人脸识别的前景如何,问题何在,又该如何应用?今夜,我们一起聊聊人脸的“古今未有之变局”。

夜话参与者:

Yiling,Jiyan,Honglin,Cecelia,Yufeng,Shawn,Wenxin,Ella


个人隐私边界

主持人 | 最近一款人脸识别软件ZAO因其隐私协议和用户协议引发网友的热议。在你看来,在人脸识别软件的开发和使用中,使用者的个人隐私边界在哪?

Jiyan | ZAO软件通过识别照片上的人脸使之与视频上的人脸互换,由此达到一定的娱乐效果。然而在用户使用照片进行识别的过程中,会存在未经他人允许就用他人的照片进行识别制作的现象,这样的行为无疑侵犯了他人的隐私。因此,我认为在进行人脸识别软件的开发中,征求用户的人像识别和授权是软件开发的雷池

ZAO在上线初期的用户条款之一“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”被指过度攫取用户授权

Honglin | 人脸识别,与身份证或指纹相似,都是一种辨明身份的工具,在功能上就如同一个随身携带的身份证。因此人脸信息属于机密性质的个人隐私,应受到和身份证对等的法律保护,其隐私边界也应向身份证隐私边界看齐。人脸识别所储存的信息一定要受到法律保护,在未经允许的情况不能随意向他人泄露。作为储存信息的APP数据库管理者,需对人脸信息的管理与应用全面负责,保证信息的机密性;作为人脸识别的用户,需要对自己和他人的人脸信息负责,不主动泄露自己的信息,也不主动窥探他人的信息。

代替指纹&虹膜?

主持人 | 目前使用的安全识别系统主要是指纹和虹膜,你认为人脸识别在未来会全面取代这两种识别技术吗?

Cecilia | 我认为人脸识别在未来短期内不会完全取代这两种技术。目前来讲,指纹和虹膜识别在技术层面比人脸识别成熟很多:准确率高、安全性高、使用范围广。自从苹果手机的人脸识别问世以来,人们不断进行各项实验来提升人脸识别的准确性。虽然现在再夸张的妆容都已经难不倒人脸识别装置,但双胞胎甚至兄弟姐妹之间的互通识别还是一大技术漏洞,因此人脸识别的安全性目前仍不能得到保障。不同的光线、角度等都会对识别造成障碍,用户体验仍有待提高。另外,指纹和虹膜识别需要特定的对准动作,但人脸识别往往会在用户无意识状态下,尤其是支付和信息发送时进行,这就意味着在个人隐私安全不能完全保障的情况下,人脸识别又加剧了财产和信息泄漏的风险。而这一点属于人脸识别的先天性短板,可能需要完全革新的技术才可以有效解决。不可否认的是,人脸识别正在不断扩大它的影响范围,但对于人脸识别究竟是不是未来发展趋势这一命题,我们只能拭目以待科研者和开发者是否能在保障安全的前提下完美解决目前的这些问题。

Wenxin | 人脸识别技术的技术不足其实折射出了更深层次的社会问题,在这些社会问题得到充分解决之前,人脸识别不会成为指纹和虹膜的替代品,最多只是一定范围内的应用。目前,人脸识别最突出的伦理问题就是不同肤色的识别准确率之间有巨大差异。今年1月,美国公民自由联盟(ACLU)使用亚马逊面部分析软件Rekognition扫描了全部535名美国国会议员的照片,并将它们与25000张警方公开的罪犯面部照片进行了比对,结果系统错误地将28名国会议员的照片与罪犯面部照片进行了配对,错误率高达5.2%。更令人震惊的是,所有错误配对中有色人种识别错误率高达39.3%(11人)1。总体而言,目前全球范围内的人脸识别技术对于女性和肤色较深人群仍不够精确。技术的发展和巩固具有奠基性的重要意义,而关于人脸识别的法律和道德机制的完善与落实也刻不容缓。两者缺一不可,否则人脸识别技术的大规模投放应用只会进一步加剧少数人群的边缘化。

ACLU发布的报告中对于人脸识别存在种族歧视的数据分析

市场推广度

主持人 | 当下人脸识别在大众市场上的推广接受度是怎么样的?

Shawn | 我觉得当下人脸识别的推广带有一定的强制性,用户并没有过多的选择权。比如上海站安检进站时就一定需要通过人脸识别验证,许多生活类(尤其是支付类)软件也要求用户进行人脸识别后才可使用。在我看来,至少在目前,人脸识别似乎是被强加于用户身上的一种限制,然而人脸识别的推广一旦开始,除非全面停止,否则很难逆转。如果说政府无可避免地需要收集市民信息的话,一些商家的强制措施又是基于什么理由呢?我觉得许多用户并不完全理解个人信息的价值,对于TA们的信息将被以何种目的用于何处也一概不知,而商家们恰恰利用这一点大规模地收集了用户的个人信息,而对于信息收集的合理性和用途、使用期限、保护方法等都没有明确告知。人脸识别的推广面临障碍也许正是来自一些敏感用户对于商家的不信任和个人隐私的重视,与人脸识别相关的立法也应该尽快出现、落实。

Ella | 人脸识别技术的优点在于方便,而方便的代价是它阻断了我们的被遗忘权——我们无法被数据“遗忘”。记忆成了常态,我们和这个社会都无法自然更新。因此人脸识别技术推广的最大障碍是划分隐私和便捷的边缘以及如何在两者中找到最好平衡。

Yufeng | 一项技术的推行与它目标范围的特性息息相关。2019年5月4日,旧金山城市监督委员会的官员以8票对1票通过一项法令,禁止政府机构购买和使用人脸识别技术2。有趣的是,旧金山是全球对科技包容性最高和科技最发达的区域之一,但同时也是美国犯罪率较高的城市之一。警方在刑事案件中的使用、私人以及企业使用都被排除在这项禁令之外,似乎又证实了这条法令不过是人脸识别的浪潮奔涌向前时的一次小小停顿。

2019年5月4日,旧金山城市监督委员会针对政府禁用人脸识别技术法令的投票前辩论

担忧和恐惧

主持人 | 包括对于隐私的担忧在内,人们对于人脸识别的担忧和恐惧是否存在误区?

Shawn | 我觉得对人脸识别不确定的担忧有一定道理,而观察不同国家对于人脸识别技术的接纳程度也很有意思。在科技发达的旧金山人们选择了与人脸识别保持距离,但在中国反对人脸识别的声音似乎就没有那么强烈。这种现象也许可以用文化和社会差异差异来解释——人们对于个人隐私的定义和重视程度不同、社会群体对于某些官方决定的本能反应不同、人们对于新科技应用的主动性和敏感度不同等。

Yufeng | 上一次对于信息技术革新的集体性担忧可以追溯到移动支付的兴起,然而时至今日,身边有多少人不依赖于移动支付,又有多少人不收益于移动支付?我们且撇开技术本身的隐患不谈,毕竟真正能深谙技术原理的人并不占社会群体的大多数,公众对于新事物的担忧和恐惧往往是出自对未知世界的迷茫,移动支付如此,人脸识别亦如此。科技向来都是一把双刃剑,而不是一架天平,不能去衡量利与弊,只能把好的坏的都展现出来。所以我认为,与其说人们对于人脸识别的担忧存在误区,更准确的表述应当是,人们对于新事物的恐惧加剧了他们对于人脸识别的担忧。戴着这样一副有色眼镜来看人脸识别,不可避免地会给它增加一层灰度。然而这副眼镜是难摘的,只有人们在亲身实践之后,或者说新事物随着时间的推移变得不那么新的时候,那些被视为洪水猛兽的技术才会逐渐被正视。但这确实也是新事物日臻成熟的一个发展过程,开发者也往往可以将人们的恐惧与担忧中的合理部分化作技术进步的一个个小目标。

校园应用?

主持人 | 国内某高校教室使用人脸识别技术,全程监查“翘课,发呆,玩手机”的现象成为热门话题。你如何看待人脸识别技术在校园领域的这一应用?

Wenxin & Cecilia | 人在接受教育时期恰也处于观念意识培养的最佳时期,学生们开始迈入意义和心灵秩序的重新构建,也开始探索自身与世界的融合方式。除了课堂教授的内容以外,获取知识的形式也越来越向“游于艺”、“游于敞开”拓展,教育的方式也正不断向此方向贴合。在这样的大背景下,上课对学生一举一动的监视无疑是一大讽刺性的倒退。除去对学生隐私的侵犯,从生理学上来讲,人本身也很难做到一直保持专注听讲的状态,“被监控”的不适感人人皆有,强烈的压抑感和禁锢感反而会打压积极性,与提升课堂效率的初衷背道而驰。

Shawn & Honglin | 在教室内使用人脸识别技术监督学生是令人无法接受的。在我看来这是运用科技强化校园中本就存在的某种等级观念——“学生是需要被监控的”。这意味着学生是需要被某种高于他们的“权威”所驯化的,这种观念本身就体现了学生与学校的不平等关系。学校,理应是一个相对自由的学习知识的地方,而不是一所处处充满监视、毫无隐私的监狱。人脸识别用于学校的行为监察,无疑是一种变相的强权控制,僭越了科学技术的道德底线。技术无好坏,应用之人却有。科学技术服务于人,而不是限制人。

Ella | 我关注的点在于为什么这样的碰撞总是发生在中国。与其责怪科技公司的无良贪婪或者学校领导的迂腐刻板,我们更应该反思一下自己对于隐私的漠视。“方便大于隐私,群体大于个体”对我们来说已经是潜意识当中就认可的定式。人脸识别在校园当中的应用闹得沸沸扬扬,那校园当中教室、走廊、操场等无处不在的监控又该如何处置呢?本质问题不出在人脸识别,而在于我们对让渡隐私权习以为常。人脸识别只是一下子把所有校园监控的弊端推到了风口浪尖。然而如何监管?如何保存保管信息?如何应用信息?这些问题,我们早该解决了。

资料来源:
[1] 冯海洋. “亚马逊Rekognition被质疑有种族歧视.” 中关村在线. 2019年1月28日,取自:http://www.elecfans.com/d/718483.html
[2] 机器之心. “旧金山,全球首个禁用人脸识别的城市旧金山,全球首个禁用人脸识别的城市.” IT时报. 2019年5月15日,取自:http://www.it-times.com.cn/a/it/2019/0515/27777.html

统稿 | 施怡聆

图 | 来自网络

微信编辑 | 吴孟昀

matters编辑 | 蔡佳月

围炉 (ID:weilu_flame)

文中图片未经同意,请勿用作其他用途

欢迎您在文章下方评论,与围炉团队和其他读者交流讨论

欲了解围炉、阅读更多文章,请关注本公众号并在公众号页面点击相应菜单栏目


Like my work??
Don't forget to support or like, so I know you are with me..

CC BY-NC-ND 2.0

围炉寰宇 | 放弃欧元,脱离资本主义:我在法国新“巴黎公社”的一天

对话抑郁症群主:网络与现实的界限与交融 | 围炉 · CityU

对话高文君:万花筒里的选美世界|围炉 · CUHK

12

Want to read more ?

Login with one click and join the most diverse creator community.