杨道还
杨道还

美理工Ph.D,后现代古人,国学科学合体人

人工智能遭遇定律

根据墨菲定律,人工智能如果可能被滥用,就一定会被滥用。在一般情形下的正常应用、好心的情形下,即便“无咎”,“事情变坏”也会发生。那么人工智能的“事情变坏”会怎样发生呢?这要从彼得原理来看。

杨道还 2/12/2023

(一)三个定律的阐释。摘自网络,属于AI的工作:

“墨菲定律”、“帕金森定律”和“彼德原理”并称为二十世纪西方文化三大发现。

  1. 墨菲定律是一种心理学效应,由爱德华·墨菲(Edward A. Murphy)1949年提出。墨菲定律的原句是:如果有两种或两种以上的方式去做某件事情,而其中一种选择方式将导致灾难,则必定有人会做出这种选择。根本内容是:如果事情有变坏的可能,不管这种可能性有多小,它总会发生。
  2. 帕金森定律是官僚主义或官僚主义现象的一种别称,源于英国著名历史学家诺斯古德·帕金森(Cyril Northcote Parkinson)1958年出版的《帕金森定律》一书的标题。帕金森在书中阐述了机构人员膨胀的原因及后果:一个不称职的官员,可能有三条出路,第一是申请退职,把位子让给能干的人;第二是让一位能干的人来协助自己工作;第三是任用两个水平比自己更低的人当助手。这第一条路是万万走不得的,因为那样会丧失许多权利;第二条路也不能走,因为那个能干的人会成为自己的对手;看来只有第三条路最适宜。于是,两个平庸的助手分担了他的工作,他自己则高高在上发号施令,他们不会对自己的权利构成威胁。两个助手既然无能,他们就上行下效,再为自己找两个更加无能的助手。如此类推,就形成了一个机构臃肿,人浮于事,相互扯皮,效率低下的领导体系。帕金森得出结论:在行政管理中,行政机构会像金字塔一样不断增多,行政人员会不断膨胀,每个人都很忙,但组织效率越来越低下。这条定律又被称为“金字塔上升”现象。
  3. 彼得原理由劳伦斯·彼得(Laurence J.Peter)提出。《彼得原理》在1969年出版,里面提出的“彼得原理”是指:在组织或企业的等级制度中,人会因其某种特质或特殊技能,令他被擢升到不能胜任的高阶职位,最终变成组织的障碍物、冗员、负资产。 

(二)AI与三个定理

根据墨菲定律,人工智能如果可能被滥用,就一定会被滥用。这似乎是悲观论,只有在某些有着阴暗心理或病态心理使用人工智能时,才有可能发生。但墨菲定律并没有说明这个限制,也就是说,在一般情形下的正常应用、好心的情形下,即便“无咎”,“事情变坏”也会发生。这里的“无咎”是引用《易经》的,人无过失的意思。“事情变坏”,即如《易经》中的悔、凶。

那么人工智能的“事情变坏”会怎样发生呢?这要从彼得原理来看。当人们使用人工智能时,一定会学和习,学即是慢慢掌握与人工智能的交流,习是练习用人工智能为人服务。这个阶段是蜜月期。当人们确定对人工智能有些了解,就一定会去探索人工智能的潜能,不断将更具挑战性的实际任务交给人工智能。

这个过程不会以人工智能不能处理或开始出错为止,即有个理性的停止点;而只能在人工智能的潜能达到极限、崩溃而导致大的危害的极端情形下,使用者才会达到理性。彼得原理的重点,即在于,人会自以为理性地走极端,“亢龙有悔”是不可避免的。

“亢龙有悔”与彼得原理不同,不将其“悔”仅仅限制在“组织或企业的等级制度”,而是指一般的规律。举个例子,爱德华·威尔逊指出,人类社会中,“文明涌现的关键是过度肥大症”。(Edward·Wilson,《论人性》,林和生等译,贵州人民出版社,1987.8)威尔逊这句话,实际上就是庄子所说的“骈拇枝指,出乎性哉!而侈于德”(《庄子·骈拇》)的翻版。(参见杨道还《经济的两重性:水准与超水准》,2016年)

过度肥大症是个比喻,当人掌握某种知识、能力、技术、制度等等,会不断地简单重复,叠屋架床,人们对其有效性的认识,一直要到使其崩溃的时候,才发生“有悔”。在稻草没有压倒骆驼之前,人们不会停止再加一根、再加一根……的过程。

此类的例子很多,古来如此,埃及的金字塔,只会越建越大,直至超出经济能力太多,社会崩溃,而不得不终止。科学初期的机械知识,最终导致毫无用处的的机器人的发明。在英国和中国的博物馆里,至今仍有那个时代所费不赀的能歌舞写字的机械人玩具存留。

在艺术上,有技法;在哲学上,有主义,“亢龙有悔”无所不在,正如老子说:“天下皆知美之为美,斯恶已。皆知善之为善,斯不善已。”艺术技法和哲学主义,其初未尝不美或不善,而卒不美与不善。

渡过了蜜月期的人工智能,如不能逃脱彼得原理,可以想见,墨菲定律就是下一步。“事情变坏”会如何发生,人们不知道,否则就没有墨菲定律——我们只知道“事情变坏”必然发生。《易·大过》有,“过涉灭顶,凶,无咎。”

人类在“亢龙有悔”上的理解有多么消级,在“事情变坏”之后的弥补上,就有多么积极。科学时代人物靠此登场扬名。这就进入到了帕金森定律阶段。

这一场景,见上第一部分定律的解释,很容易想象,这里不必详述,只指出其结果。其结果是,人工智能无法处理的问题,将会由更平庸的补丁弥补,以至于臃肿狼犺,效率越来越低下。这就像新的计算机、手机出现,人们以为它们更快,可以节省时间,但却发现并非如此。

这也像计算机、手机的出现,人们以为可以节省时间,但更忙。这又回到了一个“大”彼得定律。

人工智能会击败三定律,还是被其限制,我们可以拭目以待:其“硕果不食,君子得舆,小人剥庐”之谓欤?

(三)

那么为什么会有这样的演变?所以然是什么?那是另外的问题了。

CC BY-NC-ND 2.0 版权声明

喜欢我的文章吗?
别忘了给点支持与赞赏,让我知道创作的路上有你陪伴。

加载中…
加载中…

发布评论