女權人士和科技阿宅都會愛的《科技Ｘ愛Ｘ12 則奇思妙想》

我有二十多年科技業從業經驗，這兩年也研究過 AI 與機器學習，從碼農到業務都經歷過。在職涯專業之餘也酷愛音樂喜好文學... 誒誒這篇不是在寫履歷啦，只是當我初次看到這本書名《科技Ｘ愛Ｘ12 則奇思妙想：從吸血鬼到人工智慧，我們是在前進還是倒退？》（12 Bytes: How We Got Here. Where We Might Go Next）時，馬上就被吸引取來一翻。快速瀏覽第一章內容時就瞄到 Keith Richards（滾石合唱團吉他手）、Brian Eno（電子 / 環境音樂大師）、Andy Warhol（普普藝術之王）、勃朗特姐妹、維吉尼亞・吳爾芙等等大名，又是科技又是音樂又是藝術文學，完全我的菜，當下秒買。

書底摺頁上說本書部分內容來自作者 Jeanette Winterson 在撰寫某本小說時的閱讀筆記，由此可見此君應該也博覽群書，而且不是科技小白（我才是小白本人），沒有忽視科技領域的發展趨勢。

我自己也時常思考科技相關議題，當今 AI 風潮下滋生的海量正反面意見都會參考，態度基本上算開放，喜歡自己打臉自己以避免偏見。雖然本書中許多觀點都不算特別新穎獨到，但仍有我沒想到或是不曉得如何有效表達的部分。作者旁徵博引幫了讀者如我不少忙，省卻整理功夫，簡言之這本書可以被視為到目前（2023 年）生成式 AI 領銜的科技發展進行式下，十分具有「一言以蔽之」或懶人包效果的趨勢書。關心此類議題者必讀。

我想從三點來總結我的讀後心得：宗教化、主宰化、父權化。且聽我娓娓報來。

首先是宗教化，警語在先：基督徒請不要太激動。以下這一大段出自第四章「諾斯替學說竅門」，覺得再貼切不過，且容我整頁摘錄：

激情倡導 AI，跟傳統宗教的交集如此之多，從小生長在信教家庭的人想必都有同感，既看得入迷，也同樣心寒。
相似處不外乎基本概念：俗世不是我的家。我只是個過客。我的白身／靈魂和肉體不是一體。人死後，生命會變成另一種形式。

我對 AI 探討愈深，愈會不知不覺再三審視這群人的宗教心態。這群穿著高科技智慧布料服飾的人。
不信教的人警告說，AI 將引發世界末日，人類有四條路可走：一、滅絕。二、人性被掃除殆盡。三、被機器人取代。四、被迫進人新不平等時代，富人體內有智慧晶片，被基因改造過，肢體換新，認知強化，其他人只有滑著過時手機、爭奪低薪血汗工作的份。
反觀 AI 樂天派展望未來，態度積極，如同揮舞著《聖經》等候基督復臨的教徒。
人類即將脫離：苦勞／苦海／死亡／一夫一妻制（詳見馬太 22:30）／妊娠／疑慮／以下願望清單隨你填。
人類將可以隨心所欲生活在太空（天堂）。
時間再也不重要。

人類會被 AI 控制嗎？我們會淪為寵物嗎？會變奴隸嗎？最後的一項發明——指曾和圖靈及史丹利・庫柏力克合作過的傑克・古德所謂的「超智能（ultra-intelligent）機器」——會不會也是最後—次歡呼？

這根本是上天堂／下地獄的二元式想法，太老套了，無濟於事。

我去查了馬太 22:30：耶穌說「復活的時候，人既不娶也不嫁，而是像天上的天使一樣。」純猜測作者 Jeanette 應該意指復活後單身最大、無需伴侶吧？（教義最忌俗人亂解釋，我怕我是裝熟俗人...）

如果 AI 啥都能做，包含《黑鏡》S2E1〈馬上回來〉中利用記憶再現與生理特徵合成之術而讓死人復活，那麼這無疑是瑪麗雪萊筆下科學怪人驚夢成真，而《黑鏡》亦非無的放矢，因為 Google（見此）和微軟（見此）都正有此意。所以 AI 正扮演著上帝角色，信者得ＯＯ，不信者被ＸＸ，豈不真如作者所說已與宗教無異？！

又，復活是好事嗎？復活前後是「同一個人」？能使死人復活的超技能不就好棒棒？

除了被宗教化外，AI 日趨主宰化也是一大問題。作者寫到：

人類無能，開發 AI 是為了全民福祉，卻叫不動 AI。錯不只是在哪一國，美國、中國、俄羅斯、英國都有錯，全都沒看清重點：全人類不是受害者，而是侵害者。
不是 AI 這工具翻臉對付人類，而是人類叫工具對付人類。

大數據不是新石油，不是一種開採出来發電推動數位世界的原料，大數據其質是新二氧化碳，是一種能影響所有人的汙染物。

這其實也是我現在觀察許多 AI 擁護者——不曉得是真沒看到還是刻意矇上眼睛——所忽略的收集使用者資料所導致侵犯隱私問題，我在〈我是人，不是機器的柴火〉文中聊過這點，不再贅述。

隱私是一種人有百百款的明證，擅長異中求同的科技業最亟欲挖掘的就是隱私。別被「個性化」、「個人化」的廣告行銷術語給騙了，那只是利用同一套演算法將你的隱私參數化所得到的輸出結果，目的是反過來從你身上扒出更多的錢。你不但個資變成人家商品，還被回頭榨出更多錢，遭扒兩層皮你還在那邊「我小咖隱私不重要」？

廣告業如此，AI 也沒好到哪兒去。作者提到過去許多知名哲學家與心理學家崇尚理性，譬如人人都會背的笛卡兒「我思故我在」——自認人類會思考而為萬物之尊；或是「行為主義者」（behaviorist）諸如宣稱用適當的行為技術就可以把小嬰兒塑造出任何特質的約翰・華生（真人，非福爾摩斯助手），或是發明讓白老鼠按壓槓桿就可以得到食物的「史金納箱」的 B.F. 史金納，都認為人類行為可以被預測進而控制，於是最終多元性不敵預測值。理性的產生基礎是知識與思考，可這正是 AI 擅場之處呀！如果 AI 也習慣異中求同而非同中求異，那麼人類真的會親手毀滅自己。

AI 和機器學習的成效優劣端視預測或判斷的準確率而定，通常會有個閾值做為判斷邊界。顯然，這就是一種二分法。其實這本書裡面，身為女人的作者 Jeanette Winterson 無處不在的論述精神就源自於女性在科技史上所遭受的不平等待遇：性別原罪。

書中提到 2017 年位於波士頓的「生命未來」(Future of Life）研究院召開大會，目的是研擬一套目標來規範現有的 AI 和日後的通用 AI，Elon Musk 也應邀出席，權威性可見一班。會中召集了大約一百位科學家、律師、思想家、經濟學家、科技大師、電腦學家，研擬出二十三條原則以規範 Al 的走向，比著名的艾希莫夫「機器人三定律」更嚴謹。但是與會人士多數是白人男性，研究院本身的顧問委員也多半是。作者試問，如此缺乏膚色、性別、職業或其他多元化屬性的會議，不也和見解偏頗的數據組一樣嗎？這種會議得出的結論，能帶給我們人類多少洞見？

AI 竟步上父權化，這著實是我沒想過的問題。這段話讓我印象深刻：

我建議多召集幾位有聲望地位的文藝人士和公眾知識分子，在每一層次請他們一同研商科學、科技、政府課題。文藝不是休閒業。一直以來，文藝是憑想像力和情緒來對抗現實的一種作為，由此開發出一連串的創建和發明，我們因此能換個視角思考問題，改變你我對人類的認知，也能幫助我們變得更賢明、更有反省能力，並且少一分害怕。
文藝工作者每天都能無中生有。文藝人士過著多元而主動的生活 ，多數人嘗過貧困和被拒的滋味。在困境中，我們文藝工作者擅長想像出替代途徑。
依文藝人士看，當前社會上 AI 應用和誤用的問題並非科技問題。

人類的社會體系、對階級的迷戀、財富和權力愈來應集中在極少數人手裡——是這些現象讓人類和 AI 的關係變得緊繃。

我們應想一想這個新現實以面對問題——我們面對的不是技術問題，而是社會問題。想探討 AI 未來，召開大會時，多加幾位不常見的族群吧，最好愈加愈多。

另外，到處充滿艱澀專有名詞和陳腐行銷術語，也讓科技業顯得拒人於千里之外。所以作者也拜託 AI 業界：「多找幾個非業界的文膽吧！求求你們。」

宗教化、主宰化與父權化，的確是一般科技業內人員在觀察新科技時比較少會去探討的現象，其實一言以蔽之，就是「同質化」。AI 的多維（multi-dimention）只是輸入，但輸出是單一結果，且能符合現實最好。這是異中求同，就算有所謂的個性化結果也只是偽同中求異。某種程度上，說 AI 正走上集權路亦不為過，而那條路可以向左（如口國的「社會信用體系」）也可以向右（如被大企業所把持的 AI 技術）。《魔鬼終結者》中的天網和《1984》中的雙向電屏是前者，《機器戰警》中的 OmniCorp 公司和《美麗新世界》中的波康諾夫斯基程序則屬後者，而這更是我們應警覺而未警覺的水下冰山。

本書結論稍嫌雞湯：「愛就是全部」，不過作者正面看待 AI 發展實也植基於此，她期許未來人類和 AI 結合成「超人類」之時，仍能保有人性最優良最神秘的特質：愛。「心碎了， 派再多 DNA 和蛋白質組成的奈米機器人在血液裡流竄，也無法修復」，我愛故我在，人類僅存之。