辛海林

工程师、设计师、问题解决者,发现和解决问题。

《人有人的用处》:控制论先驱诺伯特·维纳(Norbert Wiener)谈通信,控制和我们机器的道德

“我们不是永恒不变的,而是延续自身的模式。模式就是信息。”

“资讯永远不能取代启迪(Information will never replace illumination),”苏珊·桑塔格在考虑“文字的良心”(the conscience of words)时断言。“语言是事件,它们能做事情,改变事情(Words are events, they do things, change things),” 厄休拉·勒吉恩(Ursula K. Le Guin)在同一时期对真实人类交流的魔力进行了细致入微的思考。“它们(语言)改变说话者和倾听者;它们反复反馈能量并放大它。它们来回灌输理解或情感,并将其放大。”但是,当语言被剥夺了人性,被输入无情的机器,并被用作不再启迪的信息货币时,会发生什么呢?

在算法黄金时代之前的半个世纪和互联网诞生的二十年之前,数学家和哲学家诺伯特·维纳(1894年11月26日-1964年3月18日)在他1950年出版的极具洞察力和先见之明的著作《人有人的用处:控制论与社会》(The Human Use of Human Beings: Cybernetics and Society)中试图保护我们不受这种假设的影响,维纳称这本书关注的是“个人之间和个人内部交流的局限”,这本书影响了一代又一代的思想家、创造者和企业家,深受人们喜爱的作家库尔特·冯内古特(Kurt Vonnegut)、人类学家玛丽·凯瑟琳·贝特森(Mary Catherine Bateson)和虚拟现实先驱贾隆·拉尼尔(Jaron Lanier)都深受其影响。

诺伯特·维纳(Norbert Wiener)

维纳两年前创造了控制论这个词,开创了一种思考因果链的新方式,以及系统内部的反馈回路如何改变系统本身。(今天的社交媒体生态系统是一个肤浅但极具说明性的例子。)

作为对汉娜·阿伦特关于暴君如何将隔离作为压迫和操纵的武器的同时代见解的补充,维纳解释了为什么在这种信息系统模型下,通信和控制是不可避免地联系在一起的:

信息这个名称的内容就是我们对外界进行调节并使我们的调节为外界所了解时而与外界交换来的东西。接收信息和使用信息的过程就是我们对外界环境中的种种偶然性进行调节并在该环境中有效地生活着的过程。现代生活的种种需要及其复杂性对信息过程提出了前所未有的高度要求,我们的出版社、博物馆、科学实验室、大学、图书馆和教科书都不得不去满足该过程的种种需要,否则就会失去它们存在的目的。所谓有效地生活就是拥有足够的信息来生活。由此可知,通信和控制之作为个人内在生活的本质就跟它们之作为个人社会生活的本质一样。

维纳观点的一个支柱是热力学第二定律及其核心前提,即熵——无序、混乱和不可预测性的增长趋势——在任何封闭系统中随时间增长。但是,即使我们认为宇宙本身是一个封闭的系统——这一假设忽视了我们的宇宙可能是许多宇宙之一的可能性——个人和他们所形成的社会都不能被认为是封闭的系统。相反,它们是在浩瀚的宇宙混沌中试图建立秩序和减少熵的小口袋——这些尝试被编码在我们组织和交流信息的系统中。维纳研究了有机体和机器在这方面的相似之处——在他那个时代,这是一个激进的概念,而在我们这个时代,这个概念虽然还不为人们所理解,但却显而易见:

假如我们想用“生命”一词来概括一切局部地违反熵增加流向的现象,那我们是可以随意这样做的。但是,这样做了之后,我们就会把天文学上的如我们通常所知道的和生命仅有极其微小相似的许多现象都包括进去了。所以,按照我的意见,最好是避免使用诸如“生命”、“灵魂”、“生命力”等等之类的一切自身尚待证明的代号,而在谈到机器的时候,仅仅指出:在总熵趋于增加的范围内,在代表减熵的局部区域这一点上,我们没有理由说机器不可以和人相似。
当我用这种机器和生命机体作比较时,我的意思从来都不是说,我们通常所理解的有关生命的那些特殊的物理、化学以及精神的过程和生命模拟(life-imitating)机中的那些过程等同。我只不过是说,它们二者都可以作为局部反熵过程的例证。反熵过程或许还可以通过许多其他途径找到例证,当然这些途径既不应当称之为生物学的,也不应当称之为力学的。

维纳以惊人的远见补充道:

我们只能通过消息的研究和社会通信设备的研究来理解社会,在这些消息和通信设备的未来发展中,人与机器之间、机器与人之间以及机器与机器之间的消息,势必要在社会中占据日益重要的地位。
[...]
在控制和通信中,我们一定要和组织性降低与含义受损的自然趋势作斗争,亦即要和增熵趋势作斗争。

根据尼尔·盖曼的概念(Neil Gaiman),故事是“与我们生活在一起的真正共生的有机体,允许人类前进”,维纳考虑了生物有机体是如何相似并得到信息系统的帮助的:

有机体是混乱、瓦解和死亡的对立面,就像消息是噪声的对立面一样。在描述一个有机体时,我们都不是企图详细说明其中的每一个分子并且把它们一一编入目录,而是企图去回答有关揭示该有机体模式的若干问题:譬如说,当该有机体变成一个更加完整的有机体时,模式就是一种意义更大而变化更少的东西。
[...]
我们不是固定不变的质料,而是自身永存的模式。模式就是消息。

他补充道:

消息自身就是模式和组织的一种形式。的确,我们可以把消息集合看做其中有熵的东西,就像我们对待外在世界状态的集合一样。正如熵是组织解体的量度,消息集合所具有的消息则是该集合的组织性量度。事实上,一个消息所具有的信息本质上可以解释作该消息的负熵,解释作该消息的概率的负对数。这也就是说,愈是可几的消息,提供的信息就愈少。

维纳用一个让艾米莉·狄金森(Emily Dickinson)高兴的例子来说明这个观点:

正因为熵在闭合系统中有自发增加的趋势,所以信息也就有自发降低的趋势;正因为熵是无秩序的量度,所以信息是秩序的量度。信息和熵都不是守恒的,都同样的不适合于作为商品的。例如陈词滥调的意义就不如伟大的诗篇。
[...]
陈词滥调之得以流行,不是偶然的,它是信息本性所固有的现象。信息的所有权必然要碰到下述的不利条件:要使社会上的一般信息丰富起来,该信息就必须说出某种在本质上异乎社会上原先公共储藏的信息。在伟大的文艺经典作品中,大量具有显见价值的信息甚至都会被人抛弃,仅仅因为大家已经熟悉它们的内容了。学生不喜欢莎士比亚,因为依他看来,莎士比亚无非是一堆熟悉的引句。仅当人们对这位作家有了深入的研究,摆脱了当时浅薄的陈词滥调所采用的那个部分之后,我们才能同这位作家重建信息方面的联系(rapport),并且对他的作品作出崭新的评价来。

由此而来的一个推论是,技术和媒体环境使这一切变得更加清晰,维纳从未亲眼见过这些东西,我们必须也确实要与之一起生活:

在变动不居的世界中,能把信息储藏起来而不使其严重地贬值,这种想法是荒诞的。
[...]
信息,与其说是旨在储藏,不如说旨在流通。…信息的重要性是充分地得到实现的,它是作为我们观察外界并对外界作出有效行动的连续不断的过程中的一个阶段。...人活着就不免要参加受到外界影响并对外界作出行动的连续流中,而在这个连续流中,我们只不过是承前启后的中介物而已。换个意思说,活在不断变化的世界中就意味着去参加知识的连续发展,参加知识的畅通无阻的交流。

在一段让人想起扎迪·史密斯(Zadie Smith)的段落中,他对普遍进步的幻觉进行了清醒的纠正,并提供了一个发人深省的对比,与当今社会科学家的压力形成对比,他们通过选择性很强的统计数据中令人平静的半真半假的事实,来提供感觉良好的“进步”版本,而这些统计数据故意忽视谁是“进步”的对象,维纳写道:

我们不得不过着一种生活,其中,世界作为整体,遵从热力学第二定律:混乱在增加,秩序在减少。然而,如前所述,热力学第二定律虽然对闭合系统的整体讲来是一个有效的陈述,但它对于其中的非孤立部分就肯定不是有效的了。在一个总熵趋于增加的世界中,一些局部的和暂时的减熵地区是存在着的,由于这些地区的存在,就使得有人能够断言进步的存在。
[...]
因此,我们是否要对热力学第二定律作出悲观的解释,得看我们赋予整个宇宙和我们在其中找到的局部减熵区域这二者各自的重要性如何。要记住,我们自己就是这样一个减熵区域,而我们又是生活在其他减熵区域中。结果是,正常视景因远近距离的不同而产生的差异使我们赋予减熵和增加秩序的地区的重要性远比赋予整个宇宙的重要性大得多。

维纳认为,历史时间之箭与普遍意义上的“进步”之箭是一致的,这一观点的核心缺陷在于:

我们之崇拜进步,可用两个观点进行探讨:一是事实观点,一是道德观点,后者提供赞成与否的标准。在事实方面,人们断言:继在美洲发现这个早期进步(它的开端相当于现代文明的开始)之后,我们便进入了一个永无终止的发明时期,进入了一个永无终止的发现新技术以控制人类环境的时期。进步的信仰者们说:这个时期将不断地继续下去,在人类想象得到的未来中看不到尽头。那些坚持把进步观念当做道德原则的人们则认为这个不受限制的近乎自发的变化过程是一桩“好事”,认为它是向后代保证游人间天堂的根据。人们可以不把进步当做道德原则来信仰,只把它当做事实来信仰;但是,在许多美国人的教义中,二者是分不开的。

由此,维纳转向进步叙事中最大的空白——承认不同尺度和物种之间存在的相互联系,一个世纪前,先驱博物学家约翰·缪尔(John Muir)在他的主张中就捕捉到了令人难忘的一幕,“当我们试图单独挑出任何东西时,我们发现它与宇宙中的其他一切都联系在一起的”。在蕾切尔·卡森(Rachel Carson)唤醒现代环境意识的十年前,维纳考虑了人类“进步”在地球上付出的更大代价:

许多人认识不到最近400年乃是世界史上的一个非常特别的时期。这个时期所发生的变化,其步调之快,史无前例;就这些变化的本质而言,情况也是如此。它一部分是通信加强的结果,但也是人们对自然界加强统治的结果,而在地球这样一个范围有限的行星上,这种统治归根到底是会加强我们作为自然界的奴隶的身份的。…我们是如此彻底地改造了我们的环境,以致我们现在必须改造自己,才能在这个新环境中生存下去。我们再也不能生活在旧环境中了。进步不仅给未来带来了新的可能性,也给未来带来了新的限制。…我们既要有勇气面对个人毁灭这样一桩确定无疑的事实,同样,我们也要有勇气面对我们文明的最后毁灭。进步的单纯信仰不是有力的信念,而是勉强接受下来的因而也是无力的信念。
[...]
因此,新工业革命是一把双刃剑,它可以用来为人类造福,但是,仅当人类生存的时间足够长时,我们才有可能进入这个为人类造福的时期。新工业革命也可以毁灭人类,如果我们不去理智地利用它,它就有可能很快地发展到这个地步地。

三十年后,伟大的医生、词源学家、诗人和散文家刘易斯·托马斯(Lewis Thomas)在他对危险和进步的可能性的美丽沉思中,阐明了这种情绪的另一面:“如果我们坚持下去,我们会面临一个又一个的惊喜。我们可以为人类社会建造前所未见的结构,前所未见的思想,前所未见的音乐……只要我们不自杀,只要我们可以通过情感和尊重把自己联系起来,我相信我们的基因也是如此,我们在这个星球上或在这个星球外可能做的事情是无止境的。” 维纳最富有远见的观点是,如果我们不仅要生存,而且要作为一个文明和物种兴旺发达,我们必须把这些相同的情感和尊重的价值观编码到我们的机器、信息系统和通信技术中,这样“新的模式被用来造福人类,增加人类的闲暇时间和丰富其精神生活,而不仅仅是为了利润和对机器的崇拜。”

玛丽·雪莱在《科学怪人》(Frankenstein)中提出了这些经久不衰的关于创新和责任的问题一个多世纪后,维纳对我们现在所处的人工智能悬崖,提出了一种具有惊人先见之明和现实意义的观点,在这个时代,算法决定着我们读什么、去哪里、看到多少现实:

机器对社会的危险并非来自机器自身,而是来自使用机器的人。
[...]
现代人,特别是现代美国人,尽管他可以有很多“懂得如何做”的知识,但他的“懂得做什么”的知识却是极少的。他乐意接受高度敏捷的机器决策,而不想较多的追问一下它们背后的动机和原理如何。…任何一部为了制定决策的目的而制造出来的机器要是不具有学习能力的话,那它就会是一部思想完全僵化的机器。如果我们让这样的机器来决定我们的行动,那我们就该倒霉了,除非,我们预先研究过它的活动规律,充分了解到它的所作所为都是按照我们所能接受的原则来贯彻的!另一方面,瓶装妖魔型的机器虽然能够学习,能够在学习的基础上作出决策,但它无论如何也不会遵照我们的意图去作出我们应该作出的或是我们可以接受的决策的。不了解这一点而把自己责任推卸给机器的人,不论该机器能够学习与否,都意味着他把自己的责任交给天风,任其吹逝,然后发现,它骑在旋风的背上又回到了自己身边。

维纳这本有几十年历史的书的核心是一个永恒而紧迫的观点,每个程序员、技术人员和企业家都应该把它铭刻在自己的脑海里。开创性的哲学家苏珊娜·兰格(Susanne Langer)考虑过我们提出的问题如何影响我们给出的答案和我们所建立的世界,八年后,他写道:

当个体人被用作基本成员来编织成一个社会时,如果他们不能恰如其分地作为负着责任的人,而只是作为齿轮、杠杆和连杆的话,那即使他们的原料是血是肉,实际上和金属并无什么区别。作为机器的一个元件来利用的东西,事实上就是机器的一个元件。不论我们把我们的决策委托给金属组成的机器抑或是血肉组成的机器(机关、大型实验室、军队和股份公司),除非我们问题提得正确,我们决不会得到正确的答案的。

正因为在熵统治的宇宙背景下,我们的存在是如此不可思议,它被赋予了一种特殊的责任——这种责任是人类生活意义的来源和帮助。诺贝尔奖得主波兰诗人维斯瓦·希姆博尔斯卡(Wisława Szymborska)后来也会有同感,维纳写道:

我们完全可以设想,生命是有限时间之内的现象;在最早期的地质年代之前,生命是不存在的;而地球之重返无生命时代,成为烧光或冻结了的行星,也是会到来的。为生命所需的化学反应得以进行的物理条件是极端难得的,对于理解这一点的人们而言,下述结论自然无可避免:能让这个地球上的任何形式的生命,甚至不限于像人这样的生命,得以延续下去,这个幸运的偶然性,非达到一个全盘不幸的结局不可。然而,我们不妨方便地对我们自己作出这样的估价,把生命存在这一暂时地偶然事件以及人类存在这一更加暂时地偶然事件看做具有头等重要地价值,而不必去考虑它们的一瞬即逝的性质。
在一个非常真实的意义上,我们都是这个在劫难逃的星球上的失事船只中的旅客。但即使是在失事船只上面,人的庄严和价值并非必然地消失,我们也一定要尽量地使之发扬光大。我们将要沉没,但我们可以采取合乎我们身份地态度来展望未来。

编译自:Brain Pickings上的文章The Human Use of Human Beings: Cybernetics Pioneer Norbert Wiener on Communication, Control, and the Morality of Our Machines

發佈評論

看不過癮?

馬上加入全球最高質量華語創作社區,更多精彩文章與討論等著你。