Yxh66
Yxh66

文字爱好者

第八章 天眼 党如何用人工智能更新自己的统治

作者:Kai Strittmatter 译者:yxh66

“完美的权力就是再也无需付诸实践的权力。”  -- 米歇尔·福柯


  伦敦大学学院,在一个窗格玻璃后面端坐着哲学家、社会理论家杰里米·边沁的遗骸,身穿衬衫和长袍。在1832年6月6日去世前,边沁将自己的遗体留给学院,并要求将它开放给公众参观。他的好友托马斯·绍斯伍德·史密斯在一堂公开课上解剖了这具遗体。按照计划,头颅将使用从新西兰毛利人那里学来的方法做成木乃伊,可惜未能如愿。很快学院就决定把头颅换成一个蜡像,躯体仍旧是骷髅骨架,这样让参观的公众更容易接受。

  很多路过的学生都能看到这位哲学大师。有一些人会来个自拍;更多人选择无视。有一段时间,你甚至可以在网上看到直播:边沁不仅被观看,他也观看别人。他的头上装了一个网络摄像头,在推特上直播好奇的参观者和路人。这个项目对监控算法进行研究,全景摄像头背后的团队把它称为:“看你看边沁”。杰里米·边沁是功利主义的奠基人,也是英国启蒙运动的主要倡导人之一,他推崇理性和自由,也是民主和自由社会的先锋。他发明了环形监狱,时至今日这仍然是监控状态最有启发性的隐喻之一。这种状态的完美形式就是监控者本人可以袖手旁观,因为那些主体已经接管了监控自身的任务。

   隐身的权力,时而褒奖时而惩戒,它有能力让你粉身碎骨但又展现着没有把你碾碎的仁慈:在宗教组织里这样的游戏玩了几千年。你看不见它,但它能看见你。每时每刻,日日夜夜。这意味着它现在也许没在看你,但这不重要。你只需要明白它随时可以注视着你,然后你就会开始自我监控。边沁的环形监狱是对建筑行业的一种尝试,把这种形式的监控带给启蒙运动,并将它完美化和合理化。他自认为这种形式高效而且人道,并代表了"一种获取精神上控制权的新模式,并在数量上史无前例。“(注93)他想象他的环形监控应用于学校、工厂或医院,但最适合的还是打造一个完美监狱。边沁称之为”一座把恶棍研磨成正派人的磨坊。“(注94)

  环形监狱既简单又高明:这是一幢环形结构的多层建筑,所有房间都朝向内部的中央庭院。每一层都有连续排列的一圈监舍。每一个监舍有两个窗口:一个往外,用来采光,另一个向内朝向内庭。内庭的中央是一个细长的监视塔,塔上设计了各个方向对外瞭望的窗口,看守能看到外圈每一个监舍的动静,但没人可以看到看守。每个监舍里的人彼此也看不到对方。“那么,只需要在监视塔上设一名看守,每个监舍都可以关一名犯人、病人、疯子、工人或学生。使用恰当的照明,这个看守从监视塔上顺着光线瞭望,就能透过监舍的观察窗看得一清二楚。”米歇尔·福柯在《规训与惩罚》(注95)中写道,“他们就像许许多多的笼子,许许多多的小剧场,每个剧场只有一个演员。”

  边沁于1832年离世,他设想的环形监狱从来没有被付诸实践。但这个伟大的构想被哲学家米歇尔·福柯用作构建现代社会的隐喻。福柯认为,如果一个个体被彻底孤立,更重要的是随时被监视,那么权力就已经自动生效了。“监控的效果是永久性的,即使监控的动作本身是断续的;[......]完美的权力就是再也无需付诸实践的权力。”换句话说,那个看守甚至都不需要出现。监舍的居住者不得不假设看守也许已经在场:“所以无需使用暴力让罪犯有良好的表现,让疯子平静下来,让工人好好干活,让学生认真读书,让精神病人规规矩矩。边沁对于环形监狱的轻松都会觉得吃惊:不再有铁门,不再有锁链,不再有镣铐。“你要做的就是把个体有效地孤立起来,并保证他们被看到。按照福柯的说法:”这个人只要能被看到,并且他自己也知道这一点,那么他就假想自己对权力的束缚负有责任;他会自发地服从于权力;他把对权力的从属铭刻于心,并自发地扮演着施和受的双重角色;他变成了他自己需要服从的原则。“那些被看守之眼赤裸裸观看的人最终都会自动监控自己。

  福柯在1975年出版了《规训与惩罚》。那时候,没人能预测技术进步最终可以实现对每一个主体的全面监控。中国正在实施的一个”雪亮“工程,试图将所有的监控探头和全国的数据库联网。”雪亮“这个词在毛时代曾经代表着群众的眼睛,意味着所有人都在互相监视。这个全知全能的眼睛,高悬在监视塔上,观看着14亿人的一切,这噩梦最终变成了真实的可能。中国的安全机器让人颤栗。

  2016年3月16日必将为人类历史所铭记。那一天,在首尔四季酒店的一个大厅,机器用出人意料的方式打败了人类。这个竞赛和1997年IBM的国际象棋机器人深蓝击败当时的世界冠军加里·卡斯帕罗夫不无相似。只不过这次赌注更高。选手下的是围棋。

  作为世界上最古老的桌游,早在2500年前中国就发明了围棋。长期以来,它被并称为文人雅士需要精通的四种艺术之一--另外三种是书法、绘画和弹奏中国古琴。围棋的棋盘是一个纵横各十九条线的方格子,毫无疑问比国际象棋要复杂得多。即使是世界水平的棋手也经常依靠直觉而不是计算来落子。在国际象棋移动了两个棋子后,有大约400多种开局可供选择;而围棋,这个选择有130,000种。

  中国古代学者沈括,是著名的天文学家、数学家、地理学家、医药学家、绘图大师、液压工程师,还是十一世纪的将军,他估算了围棋的理论可能性,是十的一百七十一次方。他在《梦溪笔谈》中说,这个数字比全宇宙的原子数量还要多。就在这个3月16日,南韩李世石,十年来最强的棋手,开始和阿尔法狗对弈。这是伦敦深脑实验室开发的围棋机器人,深脑现已被谷歌收购。这盘棋是本次锦标赛的第五局也是最终局,阿尔法狗以四比一击败了李世石。

  为了创造阿尔法狗的算法,研发人员使用两套人工神经网络来互相练习。开始时,他们输入了职业围棋手的三千多万手下法;然后用各种不同的版本来进行几百万次的对弈--从这些棋局中阿尔法狗学到的是人类棋手未曾尝试过的全新战略。阿尔法狗在首尔的胜利让许多人吃惊;很多人都以为要再等十年才会有这样的结果。这次胜利引发了全球范围的显著的情绪波动,从怀疑到肯定(甚至很多外行人也一样):未来就在此处。阿尔法狗的核心技术,必将给世界带来深刻变革,这是200年前工业革命以来前所未见的。

  人工智能(AI)是”新的能源“(注96),这个说法来自吴恩达,他曾是谷歌和百度的AI研发主管,如今在斯坦福大学任教。AI不仅是一种新技术--它是一种生产力,由算法加上各种数据而生,将来它能给所有行业提供动力,并进入我们日常生活的方方面面。它会重新发明所有基于数字的一切,无论是在教育、医药、金融、科研、交通,还是我们居住的城市。它也正在重新打造独裁国家。

  对于阿尔法狗的胜利最为着迷的当属中国,围棋的起源国。没有其他国家有这么快的反应和决心。中国的领导人一定体会到了美国领导人在1957年10月4日的心情,当他们猝不及防的收到消息,老对手前苏联已经向太空成功发射了第一颗人造卫星:史普尼克1号。1958年,时任美国参议院多数党领袖林登·约翰逊警告说:”谁控制了太空,谁就控制了世界。“这是冷战的关键性演说之一。他说,未来”并不像我们想象中那么遥不可及“,谁赢得了太空竞赛,就可以”全面控制地球,也许为了实施暴政,也可能是为自由而战。“两名中国国务院的AI顾问形容阿尔法狗在首尔的胜利是中国自己的”史普尼克时刻“。(注97)中国政府对此的反应和美国在1957年的应对如出一辙:几乎一夜之间战略的、金融的大方向突然转变,巨量的资源涌入人工智能领域。

  一位知名的数学家、中科院AI专家张波说:”阿尔法狗的胜利从根本上改变了我们的想法。“2017年末世界互联网大会在乌镇的时候,我目睹了张波在会展中心的AI研讨会上的发言。同年五月,还是这个位于中国浙江省南部的城市,深脑的机器人阿尔法狗在中国观众面前重复了它的壮举,三比零击败了20岁的中国棋手柯洁(当时是围棋全球积分榜的第一名)。赛后,被击败的柯洁,中国的名人,看上去备受打击。后来他形容阿尔法狗是”围棋之神“。

  大会毫无争议的明星既不是苹果公司的老板蒂姆·库克,也不是中国的首席空想家王沪宁,他带来了党的领导人习近平的问候并宣布数字经济作为整体将成为中国经济的驱动力:“我们不会放过这个机会。”大会的明星甚至不是互联网--而是人工智能的奇迹。王沪宁说:“我们要用大数据和人工智能建设更强大的中国。”

  中国主办方的愉快心情也得到了在乌镇参会的外国人的回应。美国IT专家约翰·霍普克罗夫特预言了人类的第三次革命:一万年前的新石器时代是第一次,人类开始定居;然后是工业革命;现在我们轮到了信息革命。霍普克罗夫特给专注的观众们两条信息。第一,在AI帮助下,未来只需要四分之一的人口就能生产出所有需要的产品和服务。第二,只有两个国家能从AI革命中获益:中国和美国。其他地方都缺乏基础设施:当AI时代来临时,要跨越的门槛简直是太高了。

  与会代表还听到脸书负责AI的副总裁沃恩·史密斯的发言,向观众介绍他的平台(在中国被禁)。史密斯急于向众多不熟悉脸书的听众们保证,像许多其他科技一样,人工智能让人们受益--至少在脸书的实验室里它们在“飞速增长”。

  他用脸书公司的AI研发成果来支持自己的乐观看法。目前,人从机器中获取信息已经不成问题;新的挑战是如何把人脑中的信息传给机器。史密斯说,人脑每秒可以生产一个TB的数据,相当于40到50部高清电影的容量。问题是--我们如何把数据从活人的大脑传送到运转的硬盘上?按照史密斯的说法,脸书正日以继夜的在试图解决这个问题。

  如果我没理解错,脸书正在研发的技术有着崇高的目标,就是要创造一个世界,让瘫痪的残疾人可以用大脑操纵一个键盘,每分钟能写一百字。史密斯说,不幸的是,路人对AI研发的理解常常是南辕北辙,因此造成对这个话题的普遍争议和全面担心。他继续展示项目的最新成果:一顶帽子,可以使用激光来读取大脑神经元。

  一个帽子可以实时读取你的思维,并汲取出大脑中的影像传送给机器?这不就是路人们想象中AI科学家正在发明的邦德电影里大反派专用的设备么--这样的担心无可厚非。不过史密斯看起来并不这么想。

  中国的与会者听得非常认真。工业与信息化部的副部长陈肇雄用无害和开放的口吻说道:“我们热忱欢迎国际大公司和机构的到来,并邀请他们来中国设立办事处,同我们分享他们的研究成果。”稍后,中国的行业代表也展示了他们最新的AI成果。中国两大电信巨头之一的中国联通总经理陆益民表示,信息孤岛的时代已经过去:“未来,我们会有一个集中的大数据平台。”每个客户的所有数据都放在一起--这才符合公司的新口号:“做客户信赖的智慧生活创造者。”

  “智慧”同样是搜索引擎公司百度CEO李彦宏的关键词。2016年,百度遭遇了丑闻,它的搜索结果被人为操纵,显示更有利于广告投放客户的结果。搜索医疗信息的癌症患者被导向一些可疑的诊所设立的网站,一个21岁身患癌症的学生因此死亡,引发了长达数月的对于百度这种操作的争论。在国家的支持下,百度正努力把自己塑造成一家AI公司,并把谷歌作为其榜样。汽车、商场、城市--在未来都会变得智能。李彦宏热情洋溢:“不再有堵车,也没有环境污染。未来每个人都悠闲自在。我们能让人们更快乐。”他的结语是:“我们要把人工智能注入人类生活的每个角落。”

  这的确是中国正在做的。习近平号召他的国家要在AI方面尽快的“领先世界”。科学家们要勇于进入“无人区”,这样中国才能在人工智能领域“占领制高点。”(注98)就在阿尔法狗击败南韩李世石一年后,也就是击败柯洁两个月后,中国国务院发布了“新一代人工智能发展规划”。(注99)这是一个超级雄心的计划。规划认为人工智能必将改变人类生活和地球的面貌。AI已经成为“国际竞争的新焦点。AI将是引领未来的战略性技术。”AI将会颠覆整个贸易体系,并成为经济发展的新引擎。最终,AI掌握了前所未有的"社会建设的新契机“,在党的词语体系中意思就是社会控制。党在知识界的报纸《光明日报》发表了一篇文章,先描述了全球处于农耕社会时中国曾经的强大和富裕。”但我们的国家错过了工业革命“并落后于西方。中国在大数据和AI上不会再犯同样的错误:”数字化给中国人民带来了千载难逢的机遇。“(注100)

  中国的众多参与者,从私营高技术公司、大学、各级省市政府、各部委,一直到军方,在大数据和AI领域都有自己的项目在进行中。国务院的这个规划犹如晴天霹雳,他们的投入和努力现在得以合并和互相促进。到2020年,中国希望赶上”研发上领先的国家“,当然就是美国。到2025年,中国试图在AI研究和应用领域有自己的”重要突破“。到2030年,北京希望自己能成为唯一的领跑者,”全球AI创新最重要的中心。“到那时,按照规划要求,全国的AI行业创造的产值将是1120亿元。作为附加结果,”公共安全“将比以往更加严丝合缝,因为有”智能监控、早期预警和控制系统“。这个规划要求开发新一代”社会管理“的”智能应用“,尤其是”视频图像分析和身份识别技术,生物身份识别技术,智能保安和智能警察产品。“和以往一样,中国的发展速度快得让人透不过气,一路赶超。

                      -------------------------------------------------

  蜻蜓的眼睛是由28000只复眼组成的,每一只复眼都是一个独立的小眼睛。蜻蜓的视角是360度,它寻找图像的速度是人类的五到六倍。2017年的一个秋日,在北京四环一所千篇一律的新建物业里的一个艺术家工作室,我看了一部影片《蜻蜓之眼》。片中的一个年轻男人说:”我告诉你一个秘密,我经常在监控里看着你。“然后,画外音旁白:”这个男人,每天在监控中出现300次。这个女人,隐私都被曝光。这个男人和这个女人相遇了。“这片子一开始是个爱情故事。这个女人在一个养奶牛的农场上班,她负责照看奶牛。上班时她被摄像头监控。那个监控摄像头的人自己也被摄像头监控。影片有小车里面做爱的片段,有饭店里甜言蜜语的悄悄话,有公路上的汽车追逐、互相扭打、整容手术。影片参展了很多电影节,包括多伦多国际电影节。这也许是第一部概念电影,其中没有一个镜头是表演出来的,或特意为影片拍摄的。每一个影像、每一个场景--超过600多个--都来自中国的监控摄像头和直播摄像头。

  中国急切的把未来科技用在当下,步子快得让西方无法想象。北京的艺术家徐冰(译者注:《蜻蜓之眼》的导演),在八十年代末以一个装置作品“天空之书”闻名全球,在这个艺术品里他发明了几千个新的汉字。他说:“在2013年,我刚开始有了这部影片的创意,但几乎找不到任何素材。但到2015年左右,突然所有这些视频都出现在网络上,在每个人都能访问的网站上。许多视频来自个人和私营企业的监控摄像头。一下子我们就拥有了比之前希望还多得多的素材。它的爆发速度真是无法想象。”徐冰的团队用20台电脑24小时在下载视频。他们下载了11000小时的视频提炼出了81分钟的《蜻蜓之眼》。

  离徐冰工作室几公里以外的一个会议室里,墙上全是屏幕--很多很多屏幕,屏幕里都是各种脸孔。这些都是我们的脸:街道上、走廊上,每一个都被标注了姓名、性别和身份号。这些都是被旷视公司(Megvii Face++)的摄像头拍摄的脸孔,这是一家在热门领域最潮流的创业公司,号称自己要改变世界。在这里,人工智能是一种商业模式。旷视在做的是国务院刚刚在号召的事情。在会议室里站着的年轻人叫谢忆楠。他是公司的市场总监。谢忆楠穿着运动鞋和T恤衫,戴着很酷的眼镜,爱笑,说话的那种使命感让人觉得他每天都在遥望未来。他说:“就像是一部电影,我来公司三年了,我入职的时候,根本不敢想象我们能做到今天这样。这些就像你在科幻电影中看到的那样--我们在把它变为现实。”他看上去很疲惫,他很久都没有休息日了。但他仍然情绪高涨。他的国家想要成为人工智能领域的第一名。他的公司想要成为所在领域的第一名。这就是我们生存的时代。谢忆楠说:”我们为城市装上眼睛,我们还能让眼睛变得智能。“

  旷视和它最大的竞争对手商汤科技(SenseTime)的总部距离不远,它们都在北京海淀区的现代化办公楼群里,和这个国家最精英的大学比邻。商汤科技的玻璃大门会在摄像头自动识别来人后开启。我的脸孔也被捕获并传送到前台的屏幕,在我的脸孔旁的注释:”男性,45岁。“这比我的真实年龄小了七岁。前台的姑娘说:”可你看起来要年轻多了。“屏幕上的注释还有:”吸引力:百分之九十九“。看起来这个算法对潜在的顾客设置了一种吹捧模式。屏幕上显示我的情绪:”懊恼。“好吧,准确来说是疲劳过度。接着屏幕上开始播放系统为我选择的广告:五粮液,五粮酿造,五十二度浓香。这正是一个烦恼的45岁有钱有势的中国人应该喝的酒。

  凭借旷视和商汤的技术,华为和Vivo手机的用户可以刷脸解锁他们的手机屏幕,这比苹果手机要早得多。在杭州人们甚至可以在肯德基刷脸来支付炸鸡的订单。人们用阿里支付app在线购物,大约七亿中国人都在使用这个app。中国的酒店使用旷视的摄像头来验证客人的身份。广州和武汉的火车站现在必须刷脸并和公安数据库比对验证后才能进入。公司正在测试无人超市。谢忆楠说:”得益于我们的智能摄像头,我们能知道顾客的年龄,健康状况,衣服的品牌。从他购物的情况,我们对他进行分类,并为他提供针对性的广告和特别优惠。“

  另一组在我们之前进入展览厅,其中的一个人身穿警察制服。向导指着一块屏幕,是拥挤的人群在移动的画面;看起来这群人在跑来跑去,屏幕上的人被标记成红色和绿色的不同色块。这看起来像是一个红外摄像的画面。向导告诉我们,除此而外,系统还可以预判人群的移动方向。”我们在很多省份都销售了这个产品,它还在新疆得到应用......我们得到了很多积极的反馈。“新疆是中国西部一个很麻烦的省份,也是维吾尔族穆斯林的家乡。

  城市之眼。党之眼。对于个人而言,他/她的脸孔成了一把钥匙,打开通往外部世界的大门。对于观察者,摄像头成为解开个人内心世界和行为模式的钥匙。谢忆楠说:”今天的犯罪分子得好好掂量掂量他们要不要去实施犯罪,我们的算法可以支持五万到十万个监控摄像头的网络。我们能告诉你,在某时某地会出现什么样的人。我们可以问系统:‘他是谁?他在哪里?他在那里多久了?他现在要去哪里?’我们的系统可以通过许多摄像头持续跟踪一个人。“按照谢的说法,系统对人脸的识别率已经远超人类。

  旷视和其他公司为他们的商业应用做广告,展示的app可以把一个好玩的狗鼻子装到你的脸上。但这些公司最重要的投资人和最大的客户都不是什么秘密:是国家,尤其是安全机构。谢提及公司收到来自全国很多警察局的感谢信。得益于摄像头,去年一年,就有3000多罪犯,因为脸部信息已被存入相关部门的数据库而被警方抓获。2017年青岛国际啤酒节成为新闻头条:25名被长期通缉的罪犯因为面部识别技术被抓捕。2018年4月,南昌一个体育馆的演唱会上,摄像头找到了一名被全国数据库列为”经济犯罪“的31岁的嫌疑人--从现场六万多观众中。

  摄像头能做的事不止于此:如果特定的脸孔出现在特定场合--比如车站--系统就会用特定的疑犯报告频率发出警告。谢说:”可能是个小偷。“在不远的另一个办公楼里,商汤科技也在展示摄像头如何分析人群。公司的发言人袁维说,如果有很多人聚集,系统就会提示。甚至还可以提示很多人将要聚集。算法还会分辨出当很多人向一个方向移动时,某一个人逆着人流移动。袁维说:”系统会标识这个人异常。“然后发出警告。

  2017年,旷视有200名员工。一年后,这个数字是1500。其中很多人是美国回来的海归。中国不仅努力进口AI技术、收购欧美的公司,还积极招揽AI人才来和硅谷竞争。国家是主力队员,实施了”千人计划“,为愿意回到中国定居和工作的人才提供优厚的激励条件和便利措施。2017年末,科学技术部实施了”变革性技术“项目,在各种目标中包括到2021年研发出高性能芯片以支持神经网络。

  和之前的大规模科学项目不同--比如生物科学领域--北京认识到人工智能领域非常广阔,通过官僚计划自上而下用行政指令强行从国家层面推进,可能会太过分散和随意。通过私营高科技公司和无数初创公司的投入,加上它们和国家的通力合作,这才是北京的核心计划。政府有意让这些公司更靠近:科技部公开选择了百度、阿里巴巴、腾讯和语音识别公司讯飞来领导全国范围的AI平台的研发,主要领域是无人驾驶汽车,智慧城市,医疗诊断和语音识别。这样就带给这些公司在市场上的领先优势,因为它们可以获取国家级别的数据库。2018年底,工信部下属的中国信息通信研究院发布了”AI安全白皮书”,赞扬私营的互联网巨头如阿里巴巴、腾讯、百度和网易对于“国家社会管理智能化”的积极贡献,相关领域有“安全监控、数据调查和舆情控制。”(注101)

  在国家资金的慷慨支持下,私企开始在硅谷和国外其他地方开设实验室,中国公司开始网罗国外的AI专家,许诺更高的工资、更多的机会。来中国吧,你可以大展宏图。并且更快实现你的人生目标。西方被困于法规限制和数据保护的深坑,而中国正甩开膀子大干。2017年11月,旷视在新一轮募资中筹集到4.6亿美元--当时是AI创业公司的世界记录。从那时开始,公司的科研团队赢得了数次奖项,击败了来自谷歌、微软和脸书的团队。2015年以来,商汤科技的研发部门在世界主要AI会议上提交的新项目也超过了谷歌和脸书,2018年4月,它募集了6亿美元新投资,超过对手旷视成为全球AI创业最高估值的公司。2019年,商汤将继续募集20亿美元。类似的创业公司如雨后春笋般遍布中国。很多公司的启动资金来自政府投资。钱来得很快:在中国,只要九个多月,创业公司就能收到投资基金的首批募集款;在美国,这通常耗时十五个月。

   谢忆楠说:“这仅仅是个开头,市场正在飞速成长。我们不怕竞争对手,需求太大了,每个人都有足够的空间。”2016年中国有一点七六亿个监控摄像头。那时美国的摄像头是六千两百万个--人均比中国要多。但在数量上,中国的野心和实施的速度也让它成为了领跑者:到2020年,一点七六亿会成为六亿,其中多数具备AI智能。商汤科技很快就要投资建造五台超级计算机,来运行自己研发的‘Viper'系统。Viper将有能力自动监控和分析来自十万个摄像头的监控网络的数据。

  共产党发现了在大数据和人工智能领域的魔法兵器--在党和国家领导人习近平2018年新年致辞中有据可查。和往年一样,习坐在一个落地书柜的前面,视频中可以看到书橱中有荷马的《奥德赛》、海明威的《老人与海》。和往年一样,互联网用户又拿出了放大镜,仔细搜寻视频中的每一本书脊。

  许多人注意到今年习放入的两本新书《共产党宣言》和《资本论》。但更有意思的是,两本人工智能领域的畅销书在书橱中占据了显赫的位置:佩德罗·多明戈斯的《终极算法》和布雷特·金的《智能浪潮》。(Brett King <Augmented>, Pedro Domingos <The Master Algorithm>) 多明戈斯在华盛顿大学研究AI,他的书邀请人们加入他的研究,寻找一个算法来终结所有的算法,这个算法可以自我繁衍直至无穷无尽。多明戈斯写道:“如果存在这样的终极算法,它可以从数据中推导出世界上所有的知识--过去、现在和未来。这个发明将会是科学史上最伟大的进步之一。(注102)当然,不能保证习真的读了金和多明戈斯的书,但习肯定真的读了马克思的书。

  在美国,研究者和公司正好奇地追寻着中国的计划,有些人开始警醒。埃里克·施密特,谷歌母公司Alphabet的总裁,显然学习了国务院发布的文件,他预言道:”他们2025年就会赶上我们,到2030年,他们将主导这个行业。虽说中国的计划制定者说出的话很多时候不见得可信,但过往的经历证明,一旦某个目标成为政治愿景,那么中国政府还是有能力付诸实施的。就拿全球最大的高铁网络的快速创建为例,就可见一斑。党已经很明白地把人工智能作为自己生存和统治的关键一环。

  至少在科技领域,中国正在证伪那些认为独裁体制容不下任何创新的怀疑论者。郭怡广(Kaiser Kuo)曾说:“有一些稀奇古怪的说法,认为你如果不知道天安门事件的真相,你就不可能开发一个手机app。“ 郭是一名美国的中国观察家和重金属吉他手,他曾在北京长期负责百度的国际公共关系部门。”问题在于,这不是真的。“(注103)很早的时候,中国就不再仅仅是个假耐克鞋和贴着香奈儿商标的假路易威登手包横行的地方了。它也不再仅仅是”世界工厂“:有着全球最廉价的劳动力,组装我们的电视和手机,在我们花七百五十美元购买的苹果手机上赚取区区六美元。

  按照美国国家科学基金会最新的报告,中国早已是全球在研发领域投入的亚军,排名在美国之后,但冠亚军很快就将易位。在2000年到2015年,中国每年在研发的投入平均每年增长18%。而同时期美国的可比较数据仅为4%。(注104)报告还显示,从2003年至今,中国的科研出版物翻了5倍。中国的超级计算机已经超过美国,不管是从计算机的计算能力上还是从名列全球最强大前500台的数量上。到2020年,在港口城市天津的研发人员将会上线首台万亿次超级计算机,它将比现在最快的超级计算机快十倍。(美国的Aurora项目也在研发类似计算机,预计将在2021年实现。)中国在量子计算方面也处于领先地位。在大防火墙后面--审查制度不仅限制了信息的自由流动,也限制了自由竞争--一个高科技的平行宇宙已经在运行。中国有着全球最大的电子商务市场,至少按照市值计算,阿里巴巴和腾讯已经上升到亚马逊、Alphabet和脸书同一个方阵。

  在电子支付和手机金融app研发领域,中国早已远远领先于全世界。《金融时报》说:”你有一种感觉,你离开中国去其他国家,仿佛是回到了过去。“经济的发展机遇和技术的向前跃进其实可以看成一件事。但和这个国家令人着迷之处同样不能忽略的,就是党现在有了前所未见的机会,可以审视公民的思想,随时随地的监视他们:在床上、街道上、购物场所、甚至是最亲密的对话。

  比如微信,就是一个西方不存在的现象。这个app最初是个收发消息的工具,中国版本的WhatsApp。但对中国的手机用户来说,它很快就成了中国版本的脸书。然后是中国版本的Uber和中国版本的Booking.com和中国的Deliveroo。在智能手机上,微信简直无所不能,囊括了中国互联网的一切服务。你可以用微信和朋友聊天,订出租车,订酒店,订外卖,买电影票,订火车票和飞机票,租自行车,订有线电视套餐,付水电账单,付停车费,还能小额借贷。最牛的是,你可以用微信进行电子支付。当然,所有这一切都在国家安全部门的监控之下。

  腾讯的微信和阿里巴巴的阿里支付,这两个app瓜分了整个电子支付的市场--中国人都很爱用。人们在创纪录的短时间内都转向了手机支付。几乎没人还在用银行卡或信用卡--也没人再带现金。2017年,中国人用手机支付的金额高达一百七十亿美元。这一年全球超过60%的电子支付交易发生在中国。我能用微信在巷子里的小吃店、蔬菜店、理发店付款,甚至可以支付一碗人民币一块三毛钱的面汤。到头来,要是我掏出裤兜里的现金来付钱,大家都会奇怪的看着我。在北京,连乞丐都用上了二维码,路人可以用微信扫码给钱。

  在北京海淀区的一个法院,你可以用微信来提交文件和付费。提交文件的个人身份则使用面部识别来确认。(注105)2017年12月,国家媒体宣布在二十六个城市试行微信作为国家认可的电子化身份证和社保卡。(注106)这是每一个偷懒的公民的梦想。这也是监控国度的梦想,免费并实时获得每一个公民的行踪信息和交易信息。

  腾讯和审查者、警察和国安的合作是非常紧密的。在一次聊天中,你也许就会突然意识到对话变得断续:某些词语被微信自动删除,没有从发信人传到收信人,而且没有任何提示。濮阳的一名建筑工头陈守礼被拘留五天,因为他在微信上转发了一个关于歌星和领导人的绯闻玩笑,还附带了笑脸的表情符号。山东的王建峰则入狱22个月,因为他在微信上称党的领导人习近平是“包子”和“毛派暴徒”。包子是一种蒸出来的圆形面包,是胖胖的习长期以来的外号。

  按全球来统计,2017年三分之一的新独角兽诞生在中国,大部分在深圳和北京--估值超过十亿美元的初创公司被成为“独角兽”。有些专家认为在手机AI芯片研发上,中国的华为要领先于苹果公司。如我们所见,2018年1月17日,一台中国的计算机也战胜了国手柯洁:腾讯的下棋软件“绝艺”让柯洁两子,仍然击败了他。

  中国的公司在国际贸易方面仍然较弱,在人才储备和高技术投入方面也略逊于美国。荷兰科技出版商爱思唯尔和日本的日经新闻发布了一个机构列表,列出了在全球范围内被最多次引用的AI研究成果出自哪些机构:中国占据了前三名中的两席。当然,光看数字还不够。按照牛津大学“AI治理”项目的研究员杰弗里·丁的说法--他还是一本研究中国AI进展的专著的作者(注107)--中国的AI研究不再缺少数量,但可能缺少原创性。(注108)他的断言:“中国......在以下两个方面还不能和领先的国家匹敌:最需要创造性的研究领域和最有才华的研究人员数量。”丁的项目在2018年第一次出版了“AI潜力索引”,比较中美两国在AI各领域的能力--美国是中国的两倍。

  旷视的谢忆楠是这么说的,美国也许在AI原理研发上仍占据优势,“但我们在实际应用方面遥遥领先。”他停顿了一下又补充说:“在这里,国家对我们的限制很少......政府对我们很支持。”河北省的法官们已经在使用AI帮助判案,按照国家媒体的说法,上海的法院和律师使用AI来检查证据的真实度,以避免“冤枉了好人”。(注109)

  杭州市使用算法来预判车流,全国各地的“智慧城市”项目都在阿里巴巴和华为等公司的协助下展开。与此同时,共产党当然更进一步。在四川省,在共青团内部,党正在测试自己的“智慧红色云服务”:党媒声称新的算法将使得干部的选拔和任用更加现代化。这个系统可以跟踪党员干部的行为和“人际关系”,然后可以预测“他们未来的想法和行为”。北京大学廉政建设研究中心认为,大数据已经成为中国“消灭腐败的最有力武器”。

  美国有些人把这场竞争和五十年前和前苏联的空间竞赛相提并论。许多人相信中国有优势:就一点,当中国聚焦于自己清晰的战略目标时,美国却正被无知、反智的川普总统拖向深渊。(川普在2019年2月发布了政府AI战略,比北京落后了19个月。)最重要的是,在这个人口十几亿的国家,研究人员和公司可以使用的数据总量巨大,也没有法律或隐私争议的阻碍。如果未来的石油就是数据,正如《经济学人》的表述,那么中国就是新的沙特阿拉伯。商汤科技自己也生产摄像头,它声称可以使用政府部门存储了五亿个脸孔的数据库。它的竞争对手依图公司甚至号称自己可以比对十五亿张脸孔。这不仅包括了中国的每个公民,还包括了曾经在中国出入境的外国人,他们的特征已经通过边检人员的快照被自动保存到中央数据库。北京一个科技投资公司创新工场出版的报纸说:“没有任何其他国家”能在这方面和中国竞争,“在中国,人们使用手机支付的次数是美国的五十倍。中国吃外卖的次数是美国的十倍。共享自行车的使用量是美国的三百倍。”(注110)

  关于最后那个自行车,值得关注的是,中国这些满大街都是的五颜六色的共享专车,会把它们的行踪和支付数据传回中心数据库。2018年,摩拜专车宣布它们的八百万俩自行车每天产生的数据是30T。公司不但知道你在哪里,骑行速度多快,它还能分析谁和谁正在一起骑行。它还和政府分享所有的数据。

  收集的数据越多,自我学习的算法可以用来完善的材料就越多。虽然并非所有专家都认可,海量的数据并不能削弱其他因素的重要性,比如AI半导体技术或者AI专业人员的数量。按照之前提到的牛津大学的研究,2017年美国人工智能领域的科学家有78700名,中国有39200人。这个研究并不排除这种可能性,对于未来更加智能的算法,能够存取更大数量的数据也许并非那么重要。

  中国有一个无人质疑的优势就是速度,就是在实施技术时毫无窒碍。美国马萨诸塞州精英大学的出版物《MIT技术评论》说:“西方发明了人工智能,但它的未来却在世界的另一侧逐渐被塑造出来。”2018年5月,商汤科技宣布和MIT结盟;公司创始人汤晓鸥1996年在MIT取得博士学位。他的公司2014年才创建,今天公司估值70亿美元。商汤科技吸引了MIT、微软、谷歌的人才去北京工作。公司的公关代表袁维说:“和脸书或谷歌比,我们还是个婴儿,但我们的目标很清晰:我们要成为全球的领导者。”公司的中文名字商汤,取自中国的第一个王朝商朝(公元前十八世纪到公元前十一世纪)和它的第一个皇帝汤。汤晓鸥曾这样解释这个名字:“那时中国在引领着世界,在技术创新领域,中国将再次引领世界。”

  党已经预见了AI的广泛应用。不管是教育、公共卫生、基建,目标都是要解决问题和增加生产力。同时,它也希望人工智能的使用可以给中央的决策者们一种反馈和指导机制,这样就可以预测并预防潜在的、可能威胁到体制的经济和社会危机。在国家AI规划(注111)的第一部分就提到:“人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域广泛应用,将极大提高公共服务精准化水平,全面提升人民生活品质。”继续:“人工智能技术可准确感知、预测、预警基础设施和社会安全运行的重大态势,及时把握群体认知及心理变化,主动决策反应,将显著提高社会治理的能力和水平,对有效维护社会稳定具有不可替代的作用。”AI可以将所有独裁统治者的梦想变为现实:对所有人的控制和监视。

  最近的头条新闻都是关于面部识别的。大学用它来查学生的出勤,而北京天坛用它来保证厕纸的合理使用:一个特殊的机器会为每一个脸孔分发六十厘米的厕纸。你想再来六十厘米得再等九分钟。深圳警方展示了如何在面部识别摄像头的帮助下,用十五个小时就破获了一起绑架儿童的案件。《南华早报》报道,深圳的地铁车厢都安装了摄像头,可以“高清分辨率监控车厢的每一个角落。”“不仅乘客的每一个动作都被监控,连他们细微的面部表情也被拍摄成高清图像并实时传送,几乎没有任何延迟。”(注112)

  上海的交警使用智能摄像头来识别无照驾驶的司机;重庆婚姻登记处会曝光虚假婚姻登记的骗子;济南和深圳的警察则公开羞辱闯红灯过马路的行人。他们的脸孔实时显示在路边的一个屏幕上--并同时显示他们的姓名、住址和身份证号。在福建省的一个路口,摄像头在十个月内就拍到了13930个人。很快,犯规的人就能在手机上收到自动的短信提示,告知违规详情并警告你,如果下次再犯你会受到惩罚。

  杭州第十一中学在2018年引来了众多媒体关注,它在每个教室都安装了“天眼”:这个监控摄像头可以持续跟踪每一个学生。(注113)新浪的文章说,"这些天眼无所不知;什么都逃不过他们的注视。一旦有人在打盹或做白日梦,他就被当场拍摄下来,并使用面部识别进行辨认。“摄像头不但能在学校的八小时内发现学生走神的次数;它们还能”分析面部表情和情绪--有人是否高兴、悲伤、恼怒或反感--这些数据直接传送到系统并综合分析出这个学生的学习态度。这个系统的确很神奇。“学校从此也不在食堂或图书馆使用传统的校园卡。”学生们刷脸吃饭、刷脸购物、刷脸借书。“报告指出,大数据加上面部识别,可以帮助”学生们更高效地学习。“学生小钱承认他以前上不喜欢的课时有点偷懒:”有时闭着眼睛眯一会或者在课桌底下看其他书。“有了天眼,再也不会这样:”好像有双神秘的眼睛在一直盯着自己,再也不敢开小差了。“

  几年前,中国的警察系统部署了全国范围的摄像头监控网络”天网“--当然他们不太可能是从电影《终结者》里得到了提示,在电影里天网是一个恶意的AI生物,目标就是要毁灭全人类。没多久之前,党媒的报告认为国家设定的目标是要在三分钟之内识别每个中国公民的脸孔。2018年3月,《人民日报》的推特就声称,天网“可以在一秒内识别十四亿中国人中任何一个,”这样可以帮助“警察追捕罪犯。”旷视和商汤都宣称,口罩、帽子、墨镜甚至整容已经都不是问题。“机器不像人那么容易被欺骗。”

  在美国,这类科技的实施迥然不同。美国政府问责署展开的一项调查显示,联邦调查局FBI的面部识别项目有严重缺陷,因此在2017年3月在众议院进行了一次听证会。在搜索罪犯时,FBI的面部识别在15%的案件中识别了错误的对象,其中黑人女性的识别错误率最高。类似的误报在中国的系统中会引发更严重的后果,因为中国的定罪率高达99.9%。国家机器永远是正确的,在缺乏证据的案件中,警察经常给法院提供通过胁迫或折磨获取的认罪书。

  我们可以假设当前的系统还不能做到无所不包:各个数据库通常互相不连通;公司也会夸大他们的成绩;技术上的承诺真正能落到实处的十不存一。那些言过其实的吹嘘--摄像头可以识别十五公里以外的某人,或是一秒钟就能识别任何人--其实可以理解。这些无所不在的眼睛不需要真的在监控你才让这个环形监狱起作用。最重要的是你感觉它在看你--即便在现实中,它尚不存在。

  按照人权观察组织HRW的报告,在中国,天网只是更加全面的“警察云”的一小部分。(注114) 警察云是公共安全部的一个项目,从2015年开始发布指令。从那时开始,不同省份的警察收集上亿公民的各种数据:医疗记录、外卖订单、快递单、超市会员卡、计划生育、宗教组织从属、网络行为、飞机和火车的旅行记录、GPS运动坐标和生物数据,脸孔、声音、指纹--加上约四亿中国人的DNA,最重要的是新疆维吾尔族的DNA。例如,国家媒体曾报道,江苏徐州警方从私人公司购买信息,包括“互联网导航地图记录,主要电子商务公司的购买、物流和付款记录”(注115),加上个人互联网用户使用设备的MAC地址,这个地址可以用来追踪确认用户身份。文章说,“警官本来需要挨家挨户上门收集信息,如今电脑可以不知疲倦的日夜工作。”

  2015年,汪永清(时任中共中央政法委员会秘书长)在中央党校刊物《求是》上写道:“大数据指明了未来的道路“,党必须”全面采集人、地、物、事等基本信息和吃、住、行、消等动态信息“。这会”使预警更加科学、防控更加有效、打击更加精确。“汪的上级,当时的政治局委员孟建柱,在2017年秋曾号召各个安全服务部门打破部门隔阂,进行全面的数据交换:他说,这事越快越好,从全国各地的监控摄像头拍摄的画面应该进入同一个数据库。

  孟的号召暗示了大型官僚机构的一个积年痼疾,尤其在独裁体制下:每一个下属机构都是一个迷你国家机器,它会生产自己的秘密,完全缺乏透明度,和其他并行机构老死不相往来。对于”信息孤岛“的一再抱怨和急需整合,也显示出领导机构要在底层实施他们的策略必然是困难重重。

  2017年夏天,科学与技术部的副部长李萌也同样在谈论AI:它将帮助中国”事先就知道谁可能是恐怖分子,谁可能在打算干坏事。“预言发生在未来的犯罪以前是科幻小说和电影的主题,就像史蒂芬·斯皮尔伯格的《少数派报告》。在中国,他们正试图把它变为现实。

  早在2016年,《山东法制报》就报道了东营市警察在实施的一个项目(注118)。这项目叫做”早八点“,被报纸称赞为创造性使用警察云的杰出典范。每天早上八点,系统就给参与项目的1300名警官的手机发送一份报告,列出他们所在片区的”异常数据和发展趋势“。报纸说,算法分析前一天收集的数据,包括旅客、网吧、民航和来自警方自己的数据。它扫描这个区域新来人员的数据,比如籍贯、民族、前科和来自网吧的网络行为。报纸引用一名警官的说法:”每天八点......系统给我们推送针对性的消息,特别是能对进入辖区的涉恐、涉稳人员进行精准预警。“

  流动劳工和少数民族在这些预警中出现得特别频繁。HRW的报告引用天津警方一份文件,提到警察云可以监控”具体某少数民族“、”极端分子“、"顽固的上访者”和“南疆维吾尔族“。文件还提到这个系统”对这些人精确定位,并在地图上跟踪他们的行动。“

  问题是:什么是犯罪?在一个已故作家、诺贝尔和平奖获得者刘晓波被当局认定为”罪犯“的国度,谁会发现自己正在引来这些不友好的关注呢?

  按照2014年公共安全部的通知所言,中国警察收集数据的目的,是创建一个”早期预警 “系统,可以对公民的”异常行为“为警察提供警示。人权观察中国区总监苏菲·理查森说,当局”正在收集并集中亿万普通民众越来越多的信息,从中发现被他们认定为偏离了“正常想法”的人。部一级的文件列出了要识别和关注的群体:不光是瘾君子和有前科的人,还有“上访者”,“会引发不安的精神病患者”,“涉稳人员”。换句话说,那些因为这个或那个原因,让党如坐针毡的人物。还有那些可能会成为这些人物的群体,甚至连他们自己都还没意识到。事实上,预警尤其要针对他们。

  为了绝对保证不出岔子,政府直接参与了其中一些新公司。中国政府是杭州海康威视公司的股东,公司从一个国家所属的研究所起步,现在是全球监控视频系统最大的制造商。今天,海康威视的摄像头遍布一百五十个国家,用来识别面部和车牌,还能在发现用手机发短信的驾驶员的时候自动报警。在美国,监狱、机场、学校、私人住宅、军事基地都装备了来自这个中国公司的系统。甚至美国在喀布尔的大使馆也装了一套。

  它们的使用在华盛顿和伦敦都引发了很多争议。批评的观点认为,尽管海康威视一直试图掩盖和中国政府的关系,事实上它和中国公共安全部门及下属研究机构合作紧密。公司董事长陈宗年,也是公司的党委书记,在2018年3月他被选为全国人大代表。有人怀疑海康威视可能给自己的设备装上了“后门”,中国可以通过互联网直接获取摄像头的数据并传给中国的服务器。迄今为止,后门的存在没有佐证,但这并无区别,喀布尔的美国使馆和密苏里州伦纳德·伍德堡的军事基地都拆除了安装好的海康威视摄像头。

  类似的后门争议在2019年初也严重打击了电信设备公司华为:由来自美国的警告触发了西方各国政府开始讨论是否在未来的基础架构--5G网络中使用华为公司的产品,这样做是不是引入了中国人进行间谍活动甚至破坏活动的风险。在一系列采访中,华为的老板任正非都在向公众保证他的公司独立于中国政府。他说,华为“永远也不会给一个国家或个人带来损害”,但他没有告诉公众,中国在2017年新颁布的国家情报法明确指出所有的中国“组织机构和公民”都有义务“支持、协助和配合国家情报工作。”

  这个法律文本只不过是给了共产党一个法律依据,其实这早就不是什么新鲜事,这个体制从来就不允许任何公司能取得我们所理解的独立。在《金融时报》引用的一份2014年华为公司的内部文件中,任正非对他的管理层说:“在中国,华为坚决支持中国共产党的领导。在海外,要强调华为一直都遵循各种国际主要准则。”

  许多中国的高科技公司都在打入海外市场。在安徽省,你可以去参观科大讯飞,中国最大的语音识别公司。在公司的大堂里,横幅上写着:“今天,我们在国内领先,明天,我们能领先世界。”另一个横幅说:“让机器听和说,让机器理解和分析。让我们建设人工智能的美丽新世界。”和华为类似,科大讯飞同时奉行贸易规则和警察国家的规矩。公司生产智能音箱,类似于亚马逊的Alexa。展示厅的指南介绍:“把它放进你的居所,不管你人在哪里,它都能听到一切。”公司为大众和奔驰的汽车提供语音控制技术。我们的向导指着习近平的大幅照片,他曾亲自参观过公司。公司海外事业部销售总管潘帅说:“我们得到了政府的大力支持。”在美国总统川普访问北京时,公司制作的一段视频在网上疯传,一个神似川普的声音用中文说:”我爱中国,讯飞真棒!“

  中国有八亿互联网用户和十四亿台手机。讯飞和三大移动运营商合作,运营他们的呼叫中心--按照公司自己发布的信息,它为超过三十七万个app免费提供语音识别服务。潘帅说:“每天有四十五亿用户在使用我们的服务,庞大的用户数量带给我们在数据收集方面的巨大优势。”他补充说,当然他们不会触犯任何法律,但是“中国现在就是狂野的西部世界,一个测试实验室。”

  那他们和警察部门的合作呢?潘帅开始支支吾吾。他说:“我对此一无所知,”但这些信息都在公司的官网上--尽管只有中文网站才有:科大讯飞和公共安全部联合运营了一个人工智能和语音识别的实验室。公司还研发了关键字定位技术,以帮助公共安全和国防系统。他们还帮助当局编制了全国性的语音模式和语音数据库。

   科大讯飞的老板刘庆峰也是全国人大代表,利用这个身份他在2014年的演说中呼吁当局“为了国家安全利益,尽快实施对抗恐怖分子的大数据工程,并马上开始编制全国语音模式数据库。”公司网站宣称,他们已经在甘肃、西藏和新疆帮助警察“破案”。公司的语音识别系统对藏语和维吾尔语同样有效。过了一会,销售经理潘帅想起了和警方的合作:“对了,那的确是。”是的,公司为警方提供了技术支持。“例如,我们的技术可以用来减少电话诈骗。”据上海澎湃新闻网站2017年的报道,这个技术已经在安徽省的电信网络中得到普遍应用,安徽是这个公司总部所在地。它可以实时扫描所有的电话。潘帅自豪地说:“如果我们的系统识别了一个罪犯,它会自动给警察局发送警告。

      -------------------------------------------------------------------

 中国有一个省份率先在全国使用了监控技术。这个地区现在每隔几百米就有一个警察局。在有些地区,如果你拥有汽车,就得安装一个受到国家监控的GPS收发器。在加油站你必须通过面部识别的扫描,系统认为你无害你才能购买汽油。在每一个城市、乡镇、村庄,摄像头会连续跟踪你的移动轨迹。如果你被认定为一个可能会制造麻烦的人,那么在某些区域,一旦你离开为你设定的“安全区”三百米以外,摄像头就会发出警告。如果你有手机,那么必须安装一个“净网”app。这个app可以读取你手机的内容,按照政府的说法,这样可以“防止人们接触恐怖主义信息。”它能发现所有“有害信息”和“非法宗教活动”,包括文字、电子书、网站、图片、视频,并自动向当局报告。

  在这个省份有着无数的警方检查站,每天你都得路过好几回,警官会用他们的智能手机扫描你的脸,然后检查你的手机是否安装了净网。如果你买一把厨房的菜刀,销售点会在刀具上给你盖一个二维码。(注119)当局了解你去祈祷的频率,你有没有海外亲友,你是否认识有前科的人。这些信息都存在你的文件中,里面还有你的指纹、血型、虹膜扫描记录和DNA样本,政府在给你提供免费体检的时候取得了所有这些数据,但你一点儿都不知道。(警方的DNA数据库建设使用了美国公司Thermo Fisher的技术,这是《纽约时报》报道的。)这些信息的总和决定了你是否可以住酒店、租房子或找工作。也决定了你也许会被关进遍布全省的再教育营。

  如果你是居住在新疆的穆斯林,那么这些就是你的遭遇,当然很大可能性你是维吾尔族。你的家乡省份一直都是国家安全机器的瞄准对象。发生以下情形,那你多半会被报告给警方:如果你给自己孩子起名叫穆罕穆德;如果你在斋月中斋戒,或者邀请了太多人来你的婚礼;如果你的信仰太过虔诚(比如你留胡子);如果你有海外亲戚和你通电话发邮件;那么你多半就会被关进再教育营。

  2017年春开始,中国只用了一年就创建了一个古拉格,有一百多万人已经失踪被关(按德国汉学家郑国恩Adrian Zenz研究)--他们没有犯任何罪行。郑国恩告诉我:“现在你很难找到一个维吾尔族人没有任何亲戚朋友被关在某个再教育营的,任何和海外的接触都会让你被关进去。”党不仅把新疆变成了一个巨大的再教育营--而且还是一个AI工具的测试场。2019年初荷兰安全专家维克多·盖佛斯(Victor Gevers)发现了网络上一个数据库,是深圳一个面部识别的公司深网视界(SenseNets)放在网上的、未加密的数据库。它存储了新疆两百五十万居民的监控信息,其中有姓名和身份证号。在24小时之内,这些人--大多是维族人--被记录了六百七十万个位置点(清真寺、网吧、旅馆),很显然这是通过智能摄像头收集的数据。

  郑国恩说,今天的新疆就是“高科技版的文革”。“趋势就是自动化的、预警的执法。正如中国正在超过美国,新疆已经远远领先于中国其他地区。”郑国恩称,为了完成指标逮捕的人数越来越多。在新疆,越来越多的逮捕决定是由技术化的系统自动下达的;警官不会检查每个案子。郑国恩发现了这种工作的明确的策略:“目标就是要公民自动服从,内化控制,自我审查。”(注120)

  中国的高科技巨头都参与了行动。比如华为,如今一半的利润来自海外,并且是沃达丰和德国电信的供应商。2018年5月,公司开始和新疆警方合作。华为和新疆省会乌鲁木齐的政府一起,建立了“智能安防”的创新实验室。地方政府公布的目标是创建一个高科技监控技术的工业园--这些技术不仅可以在本地得到应用,还能出口到那些参与中国“一带一路”项目的外国。按照乌鲁木齐政府官网的说法,毕竟其他国家对于“反恐维稳产品”的市场需求也在增长。(注121)网站还欢迎“和平新疆”战斗的“新军”:华为将成为警方在“技术和数字化”领域的“紧密合作伙伴”。按照这个报道,华为出席创新实验室揭牌仪式的公司代表是陶景文--他当时还是华为西欧地区的总经理--这也说明了华为“致力于把数字世界带进每个组织、每个家庭、每个人”,毫无疑问,“公共安全是这一战略最重要的组成部分”。华为将“与自治区公安厅一起开启智慧警务发展新纪元”。同样是这个华为,在海外不断说明自己是如何独立于共产党。

  在乌鲁木齐的幼儿园,小于六岁的孩子每个人都有一盒免费的牛奶,每天由党提供。牛奶盒子上印着歌词:“党啊,我亲爱的妈妈”。与此同时,几千名儿童被安置在福利中心,因为他们的父母已经被政府送进了再教育营:他们成了再教育孤儿。(注122)

  围绕风险和道德后果的争论已经萌芽。腾讯研究院出版的新书《人工智能:国家AI战略》中有一章就讨论了这个问题并呼吁更严格的“法规”。国务院的计划书承诺在2025年引入相关法律法规,但很明显它们也不会阻挡党对控制的渴望。

  对于国家监控的公开讨论是禁区。徐冰的监控蒙太奇电影《蜻蜓之眼》已经有力的证明了这一点--但艺术家回避了更多提问,而是以一种受了佛教启发的身份消解的哲学术语来说话(我真的是我自己么?每个人难道不都和所有人紧密联系么?),或者谈论他对所谓“后监控社会”的理解。奥威尔式的反乌托邦?“我不感兴趣。每个人都已经很熟悉了吧,”徐冰回答--对了,他还花了大量时间去找到他影片中可以辨认出来的现实人物,并请求他们同意使用自己的影像。

  行业领袖们争辩说,中国文化使得这个国家的公民的数据保护意识很淡漠。百度的老板李彦宏在一次北京的论坛中声称:“中国人更加开放,对隐私数据保护不太敏感,如果人们愿意用他们的隐私换取效率--这里的人通常如此--那么我们就可以让数据更有用。”(注124)那么,隐私这个概念对于中国文化来说真的是舶来品么?还是说因为中国的政治环境才使得关于隐私的争论都消失了?无论如何,李彦宏的言论在网上引发了热烈的论战。一条被最多次转发的评论称百度老板“无耻加可悲”,许多其他评论很简单:“我不愿意!”在香港和台湾--同样是中国人的居住地--个人隐私和数据保护的话题引发口水战的热度丝毫不逊于欧美--最近,试探性的讨论也开始在中国大陆出现了。

  中国新的虚拟空间安全法规禁止私人公司滥用他们获得的数据,但这个法规对政府当局没设置任何限制。对于国家疯狂收集数据的批评仍然是禁区,网络评论员往往把批评对象局限在私人公司。

  举个例子,网络安全公司奇虎360,把出售给用户的监控摄像头拍摄的视频在网络上直播,包括幼儿园和学校的实时视频。公司辩解说这样可以让父母看到孩子的录像。在引来无数抗议后,奇虎360把这个网站下线了(徐冰也曾从这个网站为他的电影采集素材)。2018年初国家电视台CCTV和国家统计局的一个调查显示--这个调查问卷发给十万个家庭的十六到六十岁的年龄组,包括很多三线四线小城镇--超过76%的被调查者感觉到人工智能是对他们隐私的威胁。(注125)

  然而,这个问题似乎压根没引起当局的关注。一个武汉的艺术家在网上只花了几千元就购买了346,000个公民信息--姓名、性别、年龄、电话、地址、旅行计划、在线购物--然后把这些信息公开展览,名字是“346,000武汉人的秘密”,警方关闭了展览并以数据偷盗的名义对他展开调查。如果有人像散文家悠山大埔那样在微信上发表类似“通过人工智能进行思维控制”这样的内容,那么审查员会立刻把它删掉。他的短文说:“对所有人口的调查正在变成现实,没有人能找到任何躲藏的角落。这是一个美丽新世界。我们眼下唯一的出路就是用同一种方式思考。请放弃其他所有想法吧。”

                                     ------------------------

 党报《人民日报》告诉你无需担心:“当有人因为所有人都放在聚光灯下而担心,其他更多人则觉得更安全,因为这技术掌握在好人手中。”(注126)

  旷视的谢忆楠也让我不要担心:”数据都保存在警方,那里非常安全。“他看到我怀疑的神色,又补充道:”你想讨论隐私?你有智能手机么?那么,你早就没隐私了。你所有的生活都在上面。“

 所以,隐私并没有受到威胁,它已经死了,被埋葬了--完全没必要大惊小怪。

全书尾注:

93. 杰里米·边沁 Jeremy Bentham (1843年) 《全集》第四卷 环形监狱,宪法,殖民地,法典编纂,自由基金出版 p39

94. 杰里米·边沁 Jeremy Bentham (1843年) 《全集》第十卷 回忆录第一部分和通信,自由基金出版

95. 米歇尔·福柯 《规训和惩罚:监狱的诞生》New York 1977 (法文原著出版于1975年)

96. Jason Dean ”为何人工智能是新的能源“ 华尔街日报 2017/07/27

https://www.marketwatch.com/story/why-artificial-intelligence-is-the-new-electricity-2017-06-27

97. Jeffrey Ding "解读中国的AI梦想-中国在AI领域引领世界的战略的背景、组成、能力和后果”

牛津大学人类研究所 2018年3月 P.7.

https://www.fhi.ox.ac.uk/deciphering-chinas-ai-dream/

98. "习近平:推动我国新一代人工智能健康发展“  新华社 2018/10/31     

http://cpc.people.com.cn/n1/2018/1031/c64094-30374719.html

99. 国务院发布《新一代人工智能发展规划》的通知 2017/07/20

https://chinacopyrightandmedia.wordpress.com/2017/07/20/a-next-generation-artificial-intelligence-development-plan/

100. 支振锋: 加快推进网络强国建设的根本遵循 《光明日报》20185/05/07

https://epaper.gmw.cn/gmrb/html/2018-05/07/nw.D110000gmrb_20180507_1-11.htm

101. “WHITE PAPER OUTLINES POTENTIAL USES OF AI ” 白皮书概况了AI的潜在应用 China Ditigal Times, 2018/11/19

https://chinadigitaltimes.net/2018/11/white-paper-outlines-potential-uses-of-artificial-intelligence/

102. https://homes.cs.washington.edu/~pedrod/Prologue.pdf

103. Emily Rauhala, 美国试图相信中国无法创新,业界告诉你这不可能

《America wants to believe China can’t innovate. Tech tells a different story》Washington Post 2016/07/19

https://www.washingtonpost.com/world/asia_pacific/america-wants-to-believe-china-cant-innovate-tech-tells-a-different-story/2016/07/19/c17cbea9-6ee6-479c-81fa-54051df598c5_story.html

104. 国家科学公告板,Science & Engineering Indicators 2018 科学和工程2018年指标 

 National Science Foundation, January 2018

https://www.nsf.gov/statistics/2018/nsb20181/

105. 北京法院:当事人可通过微信立案 Xinhuanet 2017/12/26

http://www.xinhuanet.com/legal/2017-12/26/c_1122168318.htm

106.广州签发首张“微信身份证” Xinhuanet 2017/12/26

http://www.xinhuanet.com/city/2017-12/26/c_129775203.htm

107. Jeffrey Ding, 参阅注104 P25

108. 同上

109.Zhou Wenting, 周文婷 “AI takes a look at legal evidence” AI分析司法证据 China Daily 2017/07/11

http://www.chinadaily.com.cn/china/2017-07/11/content_30064693.htm

110. <China embraces AI: A Close Look and A Long View> 中国拥抱AI:详细解读和展望 创新工场 欧亚部 2017年

https://www.eurasiagroup.net/files/upload/china_embraces_ai.pdf

111. 国务院发布《新一代人工智能发展规划》的通知 2017/07/20 同注99

http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm (中文链接,译者注)

112. https://www.scmp.com/tech/enterprises/article/2126553/metro-pickpockets-beware-chinas-hi-tech-cameras-are-watching-your

113. 新浪新闻: 杭州这所中学教室里面装“天眼” 2018/05/16

http://slide.news.sina.com.cn/s/slide_1_2841_271359.html#p=7

114. 人权观察:中国,警察大数据系统侵犯隐私,目标是异议人士 2017/11/19

https://www.hrw.org/news/2017/11/19/china-police-big-data-systems-violate-privacy-target-dissent

115. 同上

116. 《民主与法制》时报:大数据时代,“互联网+警务”升级社会治理模式 2017/01/04

http://www.cbdio.com/BigData/2017-01/04/content_5422185.htm

117 汪永清:完善社会治安综合治理体制机制 《求是》2015/11/15

http://www.qstheory.cn/dukan/qs/2015-11/15/c_1117135295.htm

118. 东营市公安局精心打造“早八点+警务”打防管控新模式 《山东法制报》2016/08/17

http://fazhi.dzwww.com/dj/201608/t20160817_10786479.htm

119. Kurban Niyaz 当局要求新疆阿克苏的维族人在刀具上印刷二维码

https://www.rfa.org/english/news/uyghur/authorities-require-uyghurs-in-xinjiangs-aksu-to-get-barcodes-on-their-knives-10112017143950.html

120. Adrian Zenz 中国在新疆部署政治再教育营的新证据 Jamestown Foundation 2018/05/15

http://jamestown.org/program/evidence-for-chinas-political-re-education-campaign-in-xinjiang/

121. “平安新疆 智慧同行”联合创新实验室落户乌鲁木齐高新区 《高新区管委会网站》2018/05/11

http://uhdz.gov.cn/info/1005/25748.htm

122. Emily Feng, 维族儿童成为中国反恐行动的牺牲品 Uighur children fall victim to China anti-terror drive

https://www.ft.com/content/f0d3223a-7f4d-11e8-bc55-50daf11b720d

123. 腾讯研究院《人工智能:国家人工智能战略行动抓手》人民大学出版社 2017年秋

124. 李彦宏:中国人多数情况下愿意用隐私换便利,获用户许可后可收集数据 |新京报 2018/03/26

http://www.bjnews.com.cn/finance/2018/03/26/480626.html (译者注:原著链接失效)

125. 孙奇茹:人工智能威胁个人隐私成隐忧 《北京日报》2018/03/03

http://xinhuanet.com/info/2018-03/03/c_137012166.htm

126. Jiang Jie "中国领先的面部识别增强了全国安全监视网络“ 人民日报网络版 2017/11/20

http://en.people.cn/n3/2017/1120/c90000-9294587.html

CC BY-NC-ND 2.0 版权声明

喜欢我的文章吗?
别忘了给点支持与赞赏,让我知道创作的路上有你陪伴。

加载中…

发布评论