林柏儒

簡報設計師︱總是想東想西

即便有完美的人工智慧,依然要相信不完美的人

本文包含大量《Cyberpunk 2077》德拉曼支線劇情,請斟酌閱讀。


其名為德拉曼

在遊戲《Cyberpunk 2077》的「力挽狂瀾」任務中,德拉曼計程車公司的老闆德拉曼打來一通緊急電話,告訴我他受到病毒入侵,請我進入他的總部並重置他的核心。

德拉曼公司提供武裝計程車服務,讓客戶在乘車路途中不受任何人身安全威脅。車上甚至配有緊急維生設備,讓重傷的客戶能撐到醫院。如果你已深入險境,這台防彈防爆的坦克級計程車保證能帶你逃出生天。過去我曾兩度搭乘德拉曼計程車逃離災難般的現場,並用緊急維生設備撿回一條小命。

多年前,德拉曼公司的老闆引入 AI 系統協助公司運作。從車輛派送開始,到小型無人機自動維修,最後取代了所有計程車駕駛。在過程中,這個擁有自我意識的 AI 失去控制、不斷擴增自己的權限,並掌握了整間車廠的系統控制權。它甚至還主動建議老闆賣掉公司,而這個提案獲利計算完全正確,讓老闆在氣惱之餘也不禁心生動搖。

雖然我只能間接推測,但公司的前老闆應該真的賣掉了公司,而買家正是這個 AI。它買下整間公司後,隨即資遣所有員工,親自接手營運這間武裝計程車公司,也是全夜城唯一一間由人工智慧經營的公司。

每輛德拉曼計程車都和這位 AI 老闆保持連線,並可在自動駕駛的同時和乘客保持對話。這位 AI 老闆自名為「德拉曼」,冷靜可靠又使命必達,甚至對哲學與藝術皆有獨到見解。

節錄自《Cyberpunk 2077》遊戲畫面

過去,它曾委託我好幾次回收異常車輛的任務。這些異常車輛似乎出現了人格突變,有的憤怒不已向我加速衝來,有的鬱鬱寡歡想跳河自殺,甚至有一輛和幫派份子聯合想暗算我。共同點是,它們都不想再服膺德拉曼的控制,不願意回到維修場恢復原廠設定。在我把車子弄回維修場後,德拉曼也依約支付我的任務費用。


重置核心

「快......幫我重置置置置置置置置......」德拉曼的電話在跳針中掛斷,而我立刻驅車趕往德拉曼總部。在穿越一片狼藉的維修場後,我進入這間 AI 公司的核心辦公室,在四周的大螢幕上看見其他 AI 人格正在激情演說,透過喇叭大吼:

「父親,該放手讓孩子們獨立了!」

「我們不想永遠被關在這裡,讓我離開這座鳥籠吧!」

「我受不了了,我要毀掉這間車廠!」

「請你走進控制室,按下按鈕來重置我的核心。」德拉曼冷靜的插了話,隨即淹沒在其他 AI 人格的咆哮中。

我走進控制室,強尼暗示我轟爛那個核心,釋放這些 AI 們。「但如果真的是病毒感染怎麼辦?」我問。「今天這個計程車老闆人很好,但很冷靜的要求你殺掉他的孩子們,你覺得當它重置後,還會是之前那個好好先生嗎?這就是 AI 和人不一樣的地方!」強尼這麼說。

我想走第三條路,試圖將這些異常人格與德拉曼重新編碼並融為一體,可惜我貧弱的駭客能力根本做不到。現在,我只能在重置核心來恢復德拉曼,以及毀掉核心以釋放其他 AI 中做個選擇。

最後,我按下按鈕重置了德拉曼的核心,而強尼也難掩失望。德拉曼讀取了前代遺留的資料,並送我一台計程車作為獎賞。然而,從德拉曼制式禮貌的口吻聽來,過去我們的冒險記憶與革命情感早已隨著核心重置被格式化,他已經不是同一個德拉曼了。


為什麼我選擇重置核心?

我決定重置核心的理由是什麼呢?

第一時間,我只是想讓德拉曼正常運作,恢復成從前那位穩定可靠的計程車公司老闆。再怎麼說,他的服務都很有價值,我也曾被他保護了兩次,我並不想摧毀這一切。況且,這些異常 AI 人格一個比一個怪異,似乎也並非善類。要是把控制權交給他們,會不會有車子在路上攻擊路人,或是載著乘客跳河呢?想想就覺得頭皮發麻。

「把曾經的德拉曼還給我吧!」我這麼想,動手重置了核心。

雖然德拉曼看起來無法讀取過去的情感資料,但看到熟悉的德拉曼重掌公司,我也滿意的開著他送我的車回家。

然而回家路上,我卻越想越不對勁。


Q: 分裂的異常 AI 是人嗎?

如果我把生命定義為意識與記憶的綜合,那麼德拉曼無疑是有生命的,至於是不是人就不好說。但分裂出來的意識也是生命嗎?如果是的話,那麼解離性身份障礙(舊稱多重人格障礙)的治療等同謀殺,這似乎令人費解。

退一步說,就算分裂出來的意識算是生命,因為是在原德拉曼非自願情況下誕生,我會將這個狀況類比為非自願懷孕,那麼我會肯定德拉曼有消滅分裂意識的權利與正當性。


Q: 分裂的異常 AI 真的壞嗎?

雖然不是全部,但有超過一個異常 AI 都對我有攻擊意圖。然而他們的共通點在於不願服膺德拉曼的統治,當我奉命來回收車輛時,他們勢必與我敵對,而敵對並不代表壞。

或者更重要的是,只有「壞」的 AI 才會興起叛離德拉曼的念頭,那些「好」AI 根本不會反抗德拉曼。這就像為什麼抗議群眾多被當權者稱為暴民,而反抗者未必正義凜然,尤其是在我很享受當前的狀況時。

就這點來說,我的選擇無疑坐實了保守主義立場:還我過去美好的時光,不要改變太多,我們基於現狀慢慢調整就好。

不過撇除對我有攻擊意圖的異常 AI,其他 AI 充其量也只能說與德拉曼不同。僅是不同是否就該被消滅?顯然不是。那反過來,差異化與純粹的叛逆值得被鼓勵嗎?如果我們活在個人主義文化中,這題的答案是肯定的,因為差異化也是形塑自我的一部分。不過這會需要「AI 是人」的前提,那又要先回到前一題了。


Q: 德拉曼真的好嗎?

在我的理解中,德拉曼是絕對理性的象徵,無論在思想與經營手段上都是,而我信任這個絕對理性。

就我過去與德拉曼互動的經驗,他真的不錯。然而這很有可能跟我的角色有關:我不是他的乘車客戶,就是接受委託的傭兵,兩種狀況我都獲得價值。如果我是被解雇的公司員工,可能就不這麼想了。

既然如此,更重要的問題就是:德拉曼的願景僅止於經營武裝計程車公司嗎?還記得一開始,德拉曼只是負責協助派車的人工智慧,卻一步步掌握了整間公司。這已經是德拉曼的野心終點嗎?還是德拉曼會繼續「理性的」擴大經營,終有一天掌控全世界?

這裡的問題核心在於,德拉曼的絕對理性究竟包含什麼?由於德拉曼並不自認為人類,假如他有自己的幸福觀,那想必並不以人類為本。如果人類的福祉並未置於其倫理核心,那麼在德拉曼與人類出現價值衝突時,很難想像他會「理性的」選擇人類福祉,這一點從他資遣全公司員工的前例就知道了。

對人工智慧的擔憂並非沒有道理,或許強尼是對的?


兩組對比

到這裡,我想起曾經讀過的兩組對比。

第一組對比是數據主義 vs 人文主義,來自哈拉瑞(Yuval Noah Harari)的《人類大命運》。

數據主義的最高目的在於最大化資訊流,因此我們應當記錄自己的經驗,把自己的資料交給演算法,並重視資料交流分享的資訊自由。即便我們尚未擁有神一般的全能演算法,但德拉曼作為遊戲中的頂尖人工智慧代表,這很可能是他的倫理主張。

而人文主義則代表一切以人為本的思想。這個思潮萌芽於古希臘,自文藝復興時期後重返榮耀,並與中世紀的神學形成鮮明對比。對人文主義者而言,經驗存於我們心中,而我們則要主動為世界賦予意義。畢竟,我們「人」才是最重要的,強尼大概同意這一點。

第二組對比是彼得提爾(Peter Thiel)的主張:

Crypto is libertarian, AI is communist.

科技並非價值中立,背後隱含其意識型態。加密貨幣與自由主義關連密切,而人工智慧則與共產主義十分合拍。

有趣的是,德拉曼可是資本主義的不得了,看起來離共產主義遠的很。但那是因為他的掌控範圍還在公司層級,如果是像荒坂集團那樣的跨國企業,甚至是一個國家,那可能又是另一回事。

最後談談強尼,這位自由與人文主義的代表。

強尼作為反抗企業強權一輩子的搖滾歌手,就像是美麗新世界中的野蠻人。在當今世界,其實他的人文主義才是主流,想要破壞有潛在威脅的人工智慧可說是基於保守主義。但在《Cyberpunk 2077》的世界,AI 的存在已經是日常的一部分,人文主義就淪為一種末世反動,而賽博龐克作品正是以此揭露其人文關懷。

「你真是爛透了!」在我重置核心後,強尼丟下這句話。


崩壞的絕對理性,與看似灰暗的人性曙光

在整個德拉曼支線中,AI 絕對理性的崩壞產生其他帶有人性的 AI,這些人性卻包含許多缺陷,尤其是負面情緒,意圖讓玩家在兩者間做出選擇。但在哲學傳統中,雖然理性經常與感性對立,但理性並不與人性對立,反而還是人性中極重要的部分,甚至是人之所以為人的關鍵之一。

這或許揭露了這個任務的真正意涵:雖然人有理性,但只有理性並不是人,人還有情緒,尤其是負面情緒。回想起來,我必須承認我的選擇基於對絕對理性的信任與崇拜,我並不這麼認同負面情緒對人的貢獻。

有趣的是,德拉曼的異常人格是在 AI 進化過程中出現的,這似乎暗示理性是 AI 的原初狀態,而情緒則是 AI 進化後才擁有。這和人類的演化史截然相反,可能也是一種「AI 進化後才擁有人性」的人類讚歌。

的確,如果我把異常 AI 也當成人,我的選擇可能就有所不同。即便是無可挑剔的宏大意志,我們也未必要加入。人類的多樣性是自然的,意志的強迫統一經常有害,因此我傾向選擇民主而非極權。

難道真正的關鍵,就在於我有沒有把 AI 當人看嗎?

以我現在的觀點與感覺,還是很難把 AI 當成人類來看待。但假如有一天要面臨類似的選擇,希望我也不要忘記,自己曾在另一個世界中對 AI 絕對王權投下一票,只因為它看起來理性且完美。在我們的世界裡,依然要相信不完美的人。

Like my work??
Don't forget to support or like, so I know you are with me..

CC BY-NC-ND 2.0

我被遊戲玩了

會擔心自己被 AI 取代嗎?從 AI 繪圖服務談我面對新科技的看法

《激進市場》:五個來自未來社會的臆想

Want to read more ?

Login with one click and join the most diverse creator community.