彩票微信讨论群

商务合作

人脸识别十字路口:触发脸的恐慌

2019-10-21 10:33:33 来源:《中国新闻周刊》 责任编辑: yxshi 收藏本文
摘要:从业内来看,2019年,将是人脸识别被市场检验的关键一年,很多公司正急于证明自己的变现能力,抢占更多赛道。但整个行业却突然被集体卷入风暴眼:人脸识别使用的边界,到底是什么?

    【CPS中安网 cecuae.com】“低调的学校上热搜,准没好事。”中国药科大学大四学生周琪看到学校的新闻时想。

  8月底,有“药界清华”之称的中国药科大学全面引入人脸识别技术,不仅用于门禁,还在试点教室安装摄像头刷脸考勤,并对学生课堂听课情况全面监控。有报道称:“在部分教室试水后,逃课和‘替同学答到’或将成为历史。”

彩票微信讨论群  一切早有端倪。6月,周琪收到学校通知,称为了做好人脸识别系统,学生要提交高要求的照片做信息采集。两个月后,周琪就体验到了人脸识别的应用,出入校门、图书馆等“刷脸”通过,不用费劲找学生卡很方便,但是她没想到随之而来的是一场风暴。

  最初的宣传焦点,是学校应用了先进的AI技术,但风向很快转变,更多人开始对教室里无时无刻的监控感到恐惧。

  在赛迪顾问人工智能部门负责人王晓宁看来,这次的争议,是人脸识别技术深入应用后必然会面临的一个节点。从业内来看,2019年,将是人脸识别被市场检验的关键一年,很多公司正急于证明自己的变现能力,抢占更多赛道。但整个行业却突然被集体卷入风暴眼:人脸识别使用的边界,到底是什么?

  校园信息化的利弊

  山世光看到中国药科大学的新闻时,并不意外。他是中科院计算所研究员、中科院智能信息处理重点实验室常务副主任,研究人脸识别技术已经有二十多年。

  对于做技术的人而言,在校园应用人脸识别技术监控学生状态不算新鲜事。“在业内,一些科技公司早已有了这样的设想,或者拥有了接近成熟的技术。”山世光说。

彩票微信讨论群  人脸识别进课堂的探索最早引发关注,始于2018年。在2018年第75届中国教育装备展示会上,人工智能公司旷视科技曾展出其智慧教育解决方案,利用人脸识别、表情识别等技术,记录学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估。除了旷视,百度、腾讯云等其他科技公司也都推出了“课堂专注度”分析的解决方案,技术和应用场景都相差无几。

  一些学校和培训机构正积极拥抱这项新技术。百度AI开放平台显示,杭州金沙湖实验学校、在线机构海风教育,以及小童科技创业公司均是教育方案的客户。

  去年3月底,浙江省杭州十一中在高一两个班级试运行“智慧课堂行为管理系统”。与中国药科大学几乎同步,今年8月底,上海中医药大学附属闵行蔷薇小学与上海交通大学E-LEARNING实验室合作,开发了智慧课堂行为分析系统。

  这些系统的做法普遍类似:每隔一段时间,用摄像头扫描一次学生的脸,采集并分析他们的坐姿、表情,评价他们有没有专注听讲。山世光把人脸识别监控学生状态的能力,称作“对人的深刻理解”。相较于常见的用于门禁“刷脸”的身份识别能力,这是更高的要求。

  深刻理解人类,本是人们对人工智能的美好期待之一,但是用在教室这个场景下,却引起极大的不适感。

彩票微信讨论群  山世光从业内了解到,一些学校和老师的确对这项技术有需求。中国药科大学图书与信息中心主任许建真在接受媒体采访时就提到,安装人脸识别系统是教务部门的要求,意在减少学生逃课、早退、找人代课以及上课不认真听讲等行为,严肃课堂纪律,同时评估老师的教学质量。

  “不是说做技术的人非把这个方案推销给学校,一些老师在教学上面临难题,他们不能关注到班里的每一个孩子,无法准确把握全班同学的学习状态,如果有人脸理解技术做辅助,老师们可以更好地调整教学办法。”同样身为老师,山世光也有相似的感触。

  但他也提到,不同职位的教育工作者对此有不同的态度。学校领导倾向于认为该技术有助于提升教学质量,而一些教师持反对意见,认为自己也被监控了。

  “大家的争议主要在于公共场合下,个人信息被利用前的知情权,信息被采集的范围和使用边界等问题。” 赛迪顾问人工智能部门负责人王晓宁对《中国新闻周刊》说。

  中国药科大学在使用这项技术前,曾向当地公安部门和法务部门咨询,得到的答复是,教室属于公共场所,不存在侵犯隐私的问题。

  但中国政法大学传播法研究中心副主任朱巍认为,人脸识别要获取学生的肖像权,肯定涉及侵犯学生隐私权,“尽管很多时候在使用肖像权上,学校会和学生有协议,但是学生通常是弱势群体,这样的协议是无效的,所以人脸识别监控的行为值得去探讨。”

  教育学者关注的另一个问题是:即便不讨论隐私,用人脸识别监控学生的状态,更涉及教育的根本价值观。

  在人脸识别进入课堂前,很多教室早已安装了监控摄像头。中国教育科学研究院研究员储朝晖告诉《中国新闻周刊》,是否在教室里引入监控,是教育领域研究几十年的老问题,业内的结论是:不能。他认为,反对基于两个原因:“一、安装监控系统后,教师和学生会以伪装的面目出现在教学环境中,长此以往,教师和学生也会以伪装的人格出现在社会上,这个习惯很难消除,可能会引发严重的社会问题;二、这涉及对教师和学生基本权利尊重的问题。”

  “人脸识别技术本身并无好坏,关键是看技术如何被使用。”山世光说,如何被使用,是一道选择题,隐私、(公共)安全和便捷是三个选项,最好的答案是在三个维度上取得平衡,“中国药科大学引入人脸识别技术并不新鲜,它之所以成为社会热点事件,是因为在以上三个方面没有很好地平衡。”

  在一片质疑声中,教育+AI却正成为未来教育的趋势。前瞻产业研究院报告显示,2023年,“智慧教育”市场规模有望突破万亿。作为AI领域目前最成熟的技术,人脸识别正深入教育行业,在刷脸签到、学员身份查询、校园安防彩票微信讨论群、课堂检测等诸多场景应用。

  一个绕不开的疑问是:人脸识别在校园里使用的边界到底是什么?

  在储朝晖看来,人脸识别技术在校园唯一适合的场景就是安防,用于识别非学校人员,保护学生安全,其余场景都用不上。“技术对于教学只能是锦上添花,不能替代教与学的位置。”储朝晖对《中国新闻周刊》说。

  教育部已经就中国药科大学的新闻作出了回应。科学技术司司长雷朝滋在接受澎湃新闻采访时表示,“(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”他认为,人脸识别进校园,既有数据安全也有个人隐私问题。对于学生个人信息要非常谨慎,能不采集就不采。能少采集就少采集,尤其是涉及个人生物信息。

  教育部在近日也告诉《中国新闻周刊》,目前教育部正在针对人脸识别技术制定相关管理文件。

无人驾驶

  2018年1月10日,比亚迪和华为公司联合发布“云轨”无人驾驶系统。“云轨”实现了全自动无人驾驶运行,并具有人脸识别、断电无人驾驶、自动诊断等多种功能。图/新华

  蒙眼狂奔的行业

  在中国药科大学引发风波的同时,以人脸识别起家的旷视科技也被推向了风口浪尖。

  9月初,旷视科技“智慧课堂解决方案”的视频在网上流传。视频中,公司运用人脸识别技术,学生的脸被方框圈出,旁边显示“专注度33%,表情分析结果:厌恶”“趴桌子0次,玩手机0次,睡觉0次,听讲6次,阅读8次,举手6次……”

  这样先进的“科技”,让很多人不寒而栗。不过,据核实,中国药科大学使用的并非旷视科技的技术,但是这个视频却成了人脸识别监控学生状态最形象的注解。

  旷视科技很快作出官方回应,称网上出现的课堂行为分析图片,只是技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全,其列举的方案内容主要是在出入校门的身份识别。这样的解释,却很难自圆其说。

  陷入争议和风波,对刚刚申请IPO的旷视来说,不是一个好兆头。8月25日,旷视科技在港交所提交IPO招股文件,一旦成功IPO,旷视科技将是AI上市第一股。

  作为AI明星创业公司,旷视一路高歌猛进,正代表了国内人脸识别产业的发展速度。以人脸识别发家的商汤、旷视、依图、云从四大计算机视觉“四小龙”,一直是资本的宠儿,也是人工智能公司中的“网红”。IDC(互联网数据中心)统计,2017年CV“四小龙”合计占据计算机视觉应用市场69.4%的市场份额。

  人脸识别所属的计算机视觉技术,是无人驾驶、VR/AR、医疗检测等应用背后的基础技术之一。在深度学习算法驱动下,计算机视觉技术在近几年取得了突破性的进展。众多巨头和创业公司纷纷涌入,人脸识别成为AI最热门的赛道之一。

  国金证券行业研报提到,计算机视觉是最具商业化价值的赛道,全球40%的AI企业都集中在该领域。应用方向上,国内以安防、金融和互联网为主,国外以消费、机器人和智能驾驶为主。

  在所有计算机视觉创业公司中,人脸识别的公司数量最多,技术成熟度也比较高。目前,中国人脸识别精确度已经超过人眼。前瞻产业研究院的数据显示,2016年,我国人脸识别行业市场规模约为17.25亿元,同比增长27.97%。

  “四小龙”基本都靠人脸识别技术起家,不过,这些以单点技术起家的CV(计算机视觉)公司正努力摆脱“CV”标签,从最初的算法提供商转变成平台或者服务商。旷视科技品牌市场团队副总裁谢忆楠曾对《中国新闻周刊》表示,大家跑马圈地的阶段结束,证明算法是否世界第一不重要了,目前进入到了证明商业价值的阶段,要看技术给行业能带来什么改变。

  旷视在成立之初主要推出Face++人脸识别开放平台,如今,其官网则强调自己是“智能物联网方案提供专家”,业务涉及安防、金融、零售等领域。商汤重点发力金融、安防、智能驾驶、移动互联网、医疗和教育等行业,云从将金融、安防、风控、交通、商业作为重点探索场景,依图也聚焦安防、医疗和金融、零售等行业。

  从头部公司探索的应用场景看来,计算机视觉的应用仍然暴露出明显的问题:应用领域重合,落地产品同质化,竞争异常激烈。

  不少业内人士都注意到,随着人脸识别技术应用进入“井喷期”,“挂羊头卖狗肉”的产品不少,存在较大的产业泡沫。以最常见的“考勤机”为例,价值数百元至上万元不等,一些畅销的“千元机”,只要脸部采集的数据能吻合六成以上,便能认定是同一人。市场良莠不齐,很多打着“人工智能”旗号的人脸识别技术真假难辨。

  国金证券报告提到了另一个行业痛点:计算机视觉技术研发周期长、盈利困难。除安防、金融等少数场景,大多数领域还找不到清昕的商业模式。

彩票微信讨论群  旷视科技一直处于亏损状态,根据其招股书显示,2016年至2019年上半年,旷视科技分别亏损3。43亿元、7。59亿元,及33。51亿元和52亿元。不过旷视科技回应,大幅亏损主要是由于上市引发的优先股的公允价值变动。

彩票微信讨论群  旷视招股书显示,旷视成立8年来,共融资13.51亿人民币,业内预计旷视的估值会在40亿美元左右。而另一家独角兽商汤则是“四小龙之首”,其联合创始人徐立近日证实,商汤今年的估值超过75亿美元。线性资本创始人王淮曾对《中国新闻周刊》介绍,“如果仅仅是做人脸识别撑不起这么高的估值,这些公司必然要去拓展其他业务,才能匹配这样的高估值。”

  人脸识别公司,正在不断地尝试打破更多边界,急于向投资人证明自己的估值。人脸识别进课堂的争议,正是在这个大背景下发生的。一位行业人士在接受虎嗅网采访时坦言,作为一家将要IPO,但营收并不好看、还存在亏损的人脸识别技术公司之一,业绩压力也让他们想寻找各个途径实现技术变现,对于一些产品设计的思考可能欠妥当。

人脸识别

  5月7日,在福州举行的第二届数字中国建设成果展览会上,观众了解体验人脸识别技术。图/视觉中国

  刷脸无处不在

  在产业前景和资本助推下,人脸识别正在成为无法阻挡的趋势。

  前瞻产业研究院报告显示,随着国内智慧城市的深入发展,城市监控的高清化进一步普及,摄像头数量大规模增长,人脸识别在数据采集上的阻碍大大减小,提升了人脸识别的质量与应用领域。预计未来5年人脸识别市场规模将保持年均25%的增速,2022年市场规模将达到约67亿元。

  越来越多高校、医院、社区、工业园区、景区、机场、火车站,都在推广“刷脸”通行。清华大学新闻学院教授沈阳曾对媒体提到,中国人平均每天要暴露在各种摄像头下超过500次。

  2017年5月,上海开始试点“电子警察”抓拍行人闯红灯设备。一旦监测到有行人闯红灯,设备就会对闯红灯行为进行完整摄录,并对该行人进行连续抓拍进行人脸识别,随即在周边的公交站点显示屏上进行公告。这项技术目前在深圳、天津、太原、济南等多个城市都已经展开使用。

  各种应用场景“脑洞大开”,2017年,北京天坛公园在3座公厕中安装了6台人脸识别厕纸机,以此杜绝偷厕纸的行为。

  在网约车行业,基于人脸识别的驾驶员身份验证,也开始普遍应用。比如,美团打车的新注册驾驶员,在首次接单前、更换手机设备或活跃接单驾驶员都会触发App端人脸识别,通过技术比对确认实际运营驾驶员与平台注册信息及公安部门登记信息是否一致。人脸识别未通过的驾驶员将不能接单,需重新提交信息。

彩票微信讨论群  而让更多人“惊喜”的是,人脸识别在抓获逃犯方面,屡建奇功。有网友统计,自2018年以来,“歌神”张学友在全国各地的巡回演唱会中,警方依靠人脸识别技术,抓获了几十名逃犯。

  人脸识别在社交应用软件中也无孔不入。8月底,国内一个AI换脸App“ZAO”在朋友圈刷屏,仅需一张照片,用户就可以换脸成为热门剧作里的角色。其实,此类社交性的应用早就无处不在,美颜相机、照片换脸,背后皆是人脸识别技术在支持。

  但对这项技术安全隐患的担忧,从来没有停歇。人脸和其他生物特征数据(如指纹)之间的一个巨大区别是,它们可以远距离起作用。智能硬件、摄像头随时随地采集个人影像资料,长时间、大规模地积累用户数据,而不被察觉。

  除了被强制收集,这些人脸信息的存储,同样存在安全隐患。今年2月,GDI基金会荷兰安全研究员Victor Gevers在推特上爆料,中国深网视界科技有限公司(SenseNets)发生了大规模数据泄露事件,称这家公司掌握的250多万人的个人信息,其中包含身份证号码、地址、生日、通行证、雇主,以及其过去24小时内路过摄像头的位置,可供任何人访问。

  人脸识别技术本身也存在很多漏洞。在GeekPwn2017国际安全极客大赛上,毕业于浙江大学计算机专业的90后女选手“tyy”仅用时两分半钟就破解了人脸识别门禁系统,把设备中存储的评委人脸换成了自己的脸,这也意味着可以用任意人脸来“蒙骗”人脸识别系统,打开门禁。

  “目前,对人们生物特征的保护,例如虹膜、人脸、指纹等的保护,都没有被写进现有法律,信息保护的责任主体、责任边界,如何使用、处理和销毁信息,法律都未具体规定。”中国政法大学传播法研究中心副主任朱巍告诉《中国新闻周刊》,在法律脱节的当下,商业伦理要有约束力,“人脸识别公司作为技术源头以及获益者,必须让用户有获知风险的知情权。”

  技术发展的伦理和法律边界

彩票微信讨论群  不仅在中国,当前全球很多国家都笼罩着“被人脸识别监控”的忧虑。

  近日,微软删除了其最大的人脸识别数据库MS Celeb,英国《金融时报》报道,数据库中采集的很多图像的主人并没有授权这一行为,MS Celeb 数据库通过“知识共享”许可证来抓取和搜索图像,这引发一些人的反对。

  美国的一些地方开始出台禁令,对人脸识别说不。今年5月14日,美国高新技术产业聚集的旧金山通过一条禁令,决定该市所有政府部门,包括该市交通管理局和执法部门,都禁止使用这个新技术。随后,马萨诸塞州的萨默维尔和加州的奥克兰相继出台人脸识别禁令。

  欧洲对人脸识别的使用更为谨慎。2018年5月,欧盟实施通用数据保护条例(简称“GDPR”),规定违规收集个人信息(其中包含指纹、人脸识别、视网膜扫描、线上定位资料等)、没有保障数据安全的互联网公司,最高可罚款2000万欧元或全球营业额的4%,被称为“史上最严”条例。

  近日,瑞典一所高中因使用了人脸识别系统记录学生的出勤率,经过调查后被认定学校对学生个人信息处理不符合“GDPR”的规定,收到了第一张基于“GDPR”的罚单,金额为20万瑞典克朗(约合14。5万人民币)。

  美国国家标准与技术研究院(NIST)2018年全球人脸识别算法测试最新结果中,2018年共有全球39家企业和机构参与本次竞赛,前五名算法被中国公司包揽。

  山世光认为,中国人脸识别技术和产业的发展,得益于互联网上大量的数据,比如网民很乐于在互联网上发布自己的照片,加上国内外政界、娱乐界公众人物的照片,科技公司都可以拿来用作训练人脸识别的能力,这在法律上也处于灰色地带。

彩票微信讨论群  “这些数据采集后如何保存、传输,传给谁,怎么用,谁能看得到,谁能把数据考走,能否放在网络上等等,都是纯粹的法律问题。”山世光对《中国新闻周刊》说。

  作为技术研发者,山世光内心的感受很复杂。在他看来,一方面,中国的人脸识别技术和应用均在全球领先,如果完全追随美国和欧洲对数据和隐私的保护,对人脸识别发展会产生很大的阻碍。

  但他承认,人脸识别技术带来的隐私和安全问题,已经到了必须正视的时候,“要在隐私、安全和便捷三者之间找到恰当的平衡,允许技术适度向前发展,同时保护公民隐私。”

 

声明:

凡文章来源标注为"CPS中安网"的文章版权均为本站所有,如需转载请务必注明出处为"CPS中安网",违反者本网将追究相关法律责任。非本网作品均来自互联网并标明了来源,如出现侵权行为,请立即与我们联系,待核实后,我们将立即删除,并向您致歉。

关键词人脸识别
分享到:
本文导航

您可能感兴趣的文章

征稿:

为了更好的发挥CPS中安网资讯平台价值,促进诸位自身发展以及业务拓展,更好地为企业及个人提供服务,中安网诚征各类稿件,欢迎有实力安防企业、机构、研究员、行业分析师。投稿邮箱: tougao@cecuae.com(查看征稿详细)

品牌推荐

联系我们

客服电话:0755-88309108

客服QQ:1144734650

寻求报道:ty.xia@cecuae.com

投稿联系:tougao@cecuae.com

关注我们

WeChat ID: cpscomcn

手机中安网

m。cps。com。cn

备案号:    电信增值业务经营许可证:粤B2-20100259       客服热线:0755-88309108  
粤公网安备:44030402001522号      深圳市中安网络技术有限公司版权所有Copyright © 1999-彩票微信讨论群 中安网 cecuae.com

彩票微信红包群 彩票高手微信交流群 彩票微信群和qq群 微信彩票计划群 幸运飞艇微信红包群 彩票微信群 彩票微信讨论群 北京赛车交流群 幸运飞艇微信红包群 北京赛车微信红包群