人脸识别 + 社会信用系统,一场重塑人类行为的社会实验?


无处不在的监控摄像头、强大的人脸识别系统和先进的人工智能技术,正在将"权力是可见但又无法确知的"这种统治术发挥到极致。


商汤科技开发的软件扫描城市人行横道,行人和车辆信息会以表格形式显示。 摄:The Wall Street Journal

。。。。。。

2014年,中国国务院就印发了一份《社会信用体系建设规划纲要》(2014—2020年),计划在2020年基本建立社会信用体系,届时每个公民、企业甚至政府机构都会获得信用评分,再配之以守信激励和失信惩戒机制,以达致"一处失信、处处受限"的效果。今年5月1日,这套酝酿多时的系统终于开始大规模应用,一旦被列入"失信人"名单,乘坐飞机和火车都会受到限制,据环球时报英文网近期披露,截至4月底,这套系统已经限制购买飞机票1114.1万人次,限制购买高铁车票425万人次。

人脸识别打造的全景式监控

英国哲学家边沁(Jeremy Bentham)曾设想过一种"圆形监狱"的建筑风格,在这种设计中,狱警可以看到任何一间囚室的犯人,而犯人却因为逆光,无法看到监视人员。它充分体现了威权主义的统治技术:权力是可见的但又是无法确知的。

在现今中国,无处不在的监控摄像头、强大的人脸识别系统和先进的人工智能技术,正在将这种统治技术发挥到极致。

前不久,浙江杭州第十一中学就引入了一套"智慧课堂行为管理系统",据报导,这套系统可实现无感"刷脸"考勤,同时还可以对课堂上学生的面部表情进行分析,并对异常行为实时反馈。校方介绍,这套系统每隔30秒扫描一次,针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。目前,这套系统仅对学校和老师开放,未来还计划向家长开放。老师监控学生、学校和家长监控老师,"智慧课堂行为管理系统"利用人脸识别技术和人工智能,完美实现了监控闭环,让学校变成了一所"圆形监狱"。

除了学校之外,人脸识别系统也在酒店、地铁等公共场所大规模普及。但与此同时,中国并没有就个人信息保护有任何专项立法,个人信息和隐私数据形同"裸奔",在公权力面前更几乎"透明",一个全景式的监控网络正在中国快速建成。

华尔街日报报导称,中国正在非常快速地运用新技术对公民进行监视,并且不会受到隐私问题担忧和舆论制约,有关部门在问题多发地区的检查站安装了虹膜扫描仪,并使用复杂的软件监督社交媒体上的言论。

端 x WSJ / 原文重点

  • 中国政府希望到2020年建立起一个全国性的"社会信用"体系,按照每位公民在工作单位、公共场所和个人财务方面的表现进行打分。中国科技公司在这一过程中起到带头作用,他们通过手机大量收集人们日常生活相关数据,规模之大前所未见,同时还争相开发并推销供政府使用的监控系统。
  • 其他国家也已经开始了这方面的试验……然而,在利用人脸识别影响人们行为方面,中国的目的有所不同。2015年,中国公安部和其他政府机构呼吁设立一个"全域覆盖、全网共享、全时可用、全程可控"的全国性视频监控网络,作为保证公共安全的必要手段。在这些机构发表的政策声明中,"人脸识别"被纳入用于完善监控网络的技术名单。
  • 在中国,人脸识别摄像头正用于各种常规活动中,比如进入工作场所、使用ATM机提现、智能手机解锁等。北京一家肯德基餐厅可扫描顾客面孔判断性别和年龄,然后以此提供点餐建议。北京一个很受欢迎的公园则利用这种技术防止有人在公厕偷厕纸。这些公厕使用的是人脸扫描厕纸机,限制每人每9分钟只能抽取长度不超过60厘米的厕纸。
  • 随着深度学习(使用软件模仿大脑神经元处理信息的方式)等人工智能技术的发展,人脸识别技术迎来了革命性进步。算法现在可以自行挑选并处理分辨模式,能更容易地探测并识别人脸的各种变化,比如转向一边、微笑、皱眉、或者因年龄发生改变等。中国政府已有大量数据,其中包括超过7亿互联网用户上传的照片以及一个集中管理的公民影像数据库──所有年满16岁的公民都必须持有政府发放的带照片的身份证。
  • 中国还在研究更多使用人脸识别技术的地方,比如在警车车顶安装摄像头,在同一时间进行全方向扫描,识别警方追查的违法人员……建立全国性的人脸识别系统还需要很多年时间,但官方媒体报导称,中国的公安部门已经将这一技术用于拘捕。目前至少有五个城市在使用这一技术识别违反交通规则的行人。

。。。。。。



发表评论