即便有完美的人工智慧，依然要相信不完美的人

本文包含大量《Cyberpunk 2077》德拉曼支線劇情，請斟酌閱讀。

其名為德拉曼

在遊戲《Cyberpunk 2077》的「力挽狂瀾」任務中，德拉曼計程車公司的老闆德拉曼打來一通緊急電話，告訴我他受到病毒入侵，請我進入他的總部並重置他的核心。

德拉曼公司提供武裝計程車服務，讓客戶在乘車路途中不受任何人身安全威脅。車上甚至配有緊急維生設備，讓重傷的客戶能撐到醫院。如果你已深入險境，這台防彈防爆的坦克級計程車保證能帶你逃出生天。過去我曾兩度搭乘德拉曼計程車逃離災難般的現場，並用緊急維生設備撿回一條小命。

多年前，德拉曼公司的老闆引入 AI 系統協助公司運作。從車輛派送開始，到小型無人機自動維修，最後取代了所有計程車駕駛。在過程中，這個擁有自我意識的 AI 失去控制、不斷擴增自己的權限，並掌握了整間車廠的系統控制權。它甚至還主動建議老闆賣掉公司，而這個提案獲利計算完全正確，讓老闆在氣惱之餘也不禁心生動搖。

雖然我只能間接推測，但公司的前老闆應該真的賣掉了公司，而買家正是這個 AI。它買下整間公司後，隨即資遣所有員工，親自接手營運這間武裝計程車公司，也是全夜城唯一一間由人工智慧經營的公司。

每輛德拉曼計程車都和這位 AI 老闆保持連線，並可在自動駕駛的同時和乘客保持對話。這位 AI 老闆自名為「德拉曼」，冷靜可靠又使命必達，甚至對哲學與藝術皆有獨到見解。

過去，它曾委託我好幾次回收異常車輛的任務。這些異常車輛似乎出現了人格突變，有的憤怒不已向我加速衝來，有的鬱鬱寡歡想跳河自殺，甚至有一輛和幫派份子聯合想暗算我。共同點是，它們都不想再服膺德拉曼的控制，不願意回到維修場恢復原廠設定。在我把車子弄回維修場後，德拉曼也依約支付我的任務費用。

重置核心

「快......幫我重置置置置置置置置......」德拉曼的電話在跳針中掛斷，而我立刻驅車趕往德拉曼總部。在穿越一片狼藉的維修場後，我進入這間 AI 公司的核心辦公室，在四周的大螢幕上看見其他 AI 人格正在激情演說，透過喇叭大吼：

「父親，該放手讓孩子們獨立了！」

「我們不想永遠被關在這裡，讓我離開這座鳥籠吧！」

「我受不了了，我要毀掉這間車廠！」

「請你走進控制室，按下按鈕來重置我的核心。」德拉曼冷靜的插了話，隨即淹沒在其他 AI 人格的咆哮中。

我走進控制室，強尼暗示我轟爛那個核心，釋放這些 AI 們。「但如果真的是病毒感染怎麼辦？」我問。「今天這個計程車老闆人很好，但很冷靜的要求你殺掉他的孩子們，你覺得當它重置後，還會是之前那個好好先生嗎？這就是 AI 和人不一樣的地方！」強尼這麼說。

我想走第三條路，試圖將這些異常人格與德拉曼重新編碼並融為一體，可惜我貧弱的駭客能力根本做不到。現在，我只能在重置核心來恢復德拉曼，以及毀掉核心以釋放其他 AI 中做個選擇。

最後，我按下按鈕重置了德拉曼的核心，而強尼也難掩失望。德拉曼讀取了前代遺留的資料，並送我一台計程車作為獎賞。然而，從德拉曼制式禮貌的口吻聽來，過去我們的冒險記憶與革命情感早已隨著核心重置被格式化，他已經不是同一個德拉曼了。

為什麼我選擇重置核心？

我決定重置核心的理由是什麼呢？

第一時間，我只是想讓德拉曼正常運作，恢復成從前那位穩定可靠的計程車公司老闆。再怎麼說，他的服務都很有價值，我也曾被他保護了兩次，我並不想摧毀這一切。況且，這些異常 AI 人格一個比一個怪異，似乎也並非善類。要是把控制權交給他們，會不會有車子在路上攻擊路人，或是載著乘客跳河呢？想想就覺得頭皮發麻。

「把曾經的德拉曼還給我吧！」我這麼想，動手重置了核心。

雖然德拉曼看起來無法讀取過去的情感資料，但看到熟悉的德拉曼重掌公司，我也滿意的開著他送我的車回家。

然而回家路上，我卻越想越不對勁。

Q: 分裂的異常 AI 是人嗎？

如果我把生命定義為意識與記憶的綜合，那麼德拉曼無疑是有生命的，至於是不是人就不好說。但分裂出來的意識也是生命嗎？如果是的話，那麼解離性身份障礙（舊稱多重人格障礙）的治療等同謀殺，這似乎令人費解。

退一步說，就算分裂出來的意識算是生命，因為是在原德拉曼非自願情況下誕生，我會將這個狀況類比為非自願懷孕，那麼我會肯定德拉曼有消滅分裂意識的權利與正當性。

Q: 分裂的異常 AI 真的壞嗎？

雖然不是全部，但有超過一個異常 AI 都對我有攻擊意圖。然而他們的共通點在於不願服膺德拉曼的統治，當我奉命來回收車輛時，他們勢必與我敵對，而敵對並不代表壞。

或者更重要的是，只有「壞」的 AI 才會興起叛離德拉曼的念頭，那些「好」AI 根本不會反抗德拉曼。這就像為什麼抗議群眾多被當權者稱為暴民，而反抗者未必正義凜然，尤其是在我很享受當前的狀況時。

就這點來說，我的選擇無疑坐實了保守主義立場：還我過去美好的時光，不要改變太多，我們基於現狀慢慢調整就好。

不過撇除對我有攻擊意圖的異常 AI，其他 AI 充其量也只能說與德拉曼不同。僅是不同是否就該被消滅？顯然不是。那反過來，差異化與純粹的叛逆值得被鼓勵嗎？如果我們活在個人主義文化中，這題的答案是肯定的，因為差異化也是形塑自我的一部分。不過這會需要「AI 是人」的前提，那又要先回到前一題了。

Q: 德拉曼真的好嗎？

在我的理解中，德拉曼是絕對理性的象徵，無論在思想與經營手段上都是，而我信任這個絕對理性。

就我過去與德拉曼互動的經驗，他真的不錯。然而這很有可能跟我的角色有關：我不是他的乘車客戶，就是接受委託的傭兵，兩種狀況我都獲得價值。如果我是被解雇的公司員工，可能就不這麼想了。

既然如此，更重要的問題就是：德拉曼的願景僅止於經營武裝計程車公司嗎？還記得一開始，德拉曼只是負責協助派車的人工智慧，卻一步步掌握了整間公司。這已經是德拉曼的野心終點嗎？還是德拉曼會繼續「理性的」擴大經營，終有一天掌控全世界？

這裡的問題核心在於，德拉曼的絕對理性究竟包含什麼？由於德拉曼並不自認為人類，假如他有自己的幸福觀，那想必並不以人類為本。如果人類的福祉並未置於其倫理核心，那麼在德拉曼與人類出現價值衝突時，很難想像他會「理性的」選擇人類福祉，這一點從他資遣全公司員工的前例就知道了。

對人工智慧的擔憂並非沒有道理，或許強尼是對的？

兩組對比

到這裡，我想起曾經讀過的兩組對比。

第一組對比是數據主義 vs 人文主義，來自哈拉瑞（Yuval Noah Harari）的《人類大命運》。

數據主義的最高目的在於最大化資訊流，因此我們應當記錄自己的經驗，把自己的資料交給演算法，並重視資料交流分享的資訊自由。即便我們尚未擁有神一般的全能演算法，但德拉曼作為遊戲中的頂尖人工智慧代表，這很可能是他的倫理主張。

而人文主義則代表一切以人為本的思想。這個思潮萌芽於古希臘，自文藝復興時期後重返榮耀，並與中世紀的神學形成鮮明對比。對人文主義者而言，經驗存於我們心中，而我們則要主動為世界賦予意義。畢竟，我們「人」才是最重要的，強尼大概同意這一點。

第二組對比是彼得提爾（Peter Thiel）的主張：

Crypto is libertarian, AI is communist.

科技並非價值中立，背後隱含其意識型態。加密貨幣與自由主義關連密切，而人工智慧則與共產主義十分合拍。

有趣的是，德拉曼可是資本主義的不得了，看起來離共產主義遠的很。但那是因為他的掌控範圍還在公司層級，如果是像荒坂集團那樣的跨國企業，甚至是一個國家，那可能又是另一回事。

最後談談強尼，這位自由與人文主義的代表。

強尼作為反抗企業強權一輩子的搖滾歌手，就像是美麗新世界中的野蠻人。在當今世界，其實他的人文主義才是主流，想要破壞有潛在威脅的人工智慧可說是基於保守主義。但在《Cyberpunk 2077》的世界，AI 的存在已經是日常的一部分，人文主義就淪為一種末世反動，而賽博龐克作品正是以此揭露其人文關懷。

「你真是爛透了！」在我重置核心後，強尼丟下這句話。

崩壞的絕對理性，與看似灰暗的人性曙光

在整個德拉曼支線中，AI 絕對理性的崩壞產生其他帶有人性的 AI，這些人性卻包含許多缺陷，尤其是負面情緒，意圖讓玩家在兩者間做出選擇。但在哲學傳統中，雖然理性經常與感性對立，但理性並不與人性對立，反而還是人性中極重要的部分，甚至是人之所以為人的關鍵之一。

這或許揭露了這個任務的真正意涵：雖然人有理性，但只有理性並不是人，人還有情緒，尤其是負面情緒。回想起來，我必須承認我的選擇基於對絕對理性的信任與崇拜，我並不這麼認同負面情緒對人的貢獻。

有趣的是，德拉曼的異常人格是在 AI 進化過程中出現的，這似乎暗示理性是 AI 的原初狀態，而情緒則是 AI 進化後才擁有。這和人類的演化史截然相反，可能也是一種「AI 進化後才擁有人性」的人類讚歌。

的確，如果我把異常 AI 也當成人，我的選擇可能就有所不同。即便是無可挑剔的宏大意志，我們也未必要加入。人類的多樣性是自然的，意志的強迫統一經常有害，因此我傾向選擇民主而非極權。

難道真正的關鍵，就在於我有沒有把 AI 當人看嗎？

以我現在的觀點與感覺，還是很難把 AI 當成人類來看待。但假如有一天要面臨類似的選擇，希望我也不要忘記，自己曾在另一個世界中對 AI 絕對王權投下一票，只因為它看起來理性且完美。在我們的世界裡，依然要相信不完美的人。