leafwind

在日軟體工程師|廣告→媒體業|資料科學與工程 熱衷於數據解讀與分析|用哲學觀察科技與社會 加入TG寫寫村群組:https://t.me/chinese_writing|加入TG資料森友會群組:https://t.me/all_about_data|聯絡我:https://about.me/leafwind

The Social Dilemma 觀後感(下):再看人類數據化與效率災難

發布於

或許是我心中滿滿的反烏托邦,所以看什麼都反烏托邦,上一篇寫著寫著又牽拖到這系列的概念。因此思考了很久,覺得另外成文比較好,如果你是對哲學與價值觀討論有興趣的讀者,歡迎來看這篇比較難嚼又開腦洞的文章。


在本片開始,是對一群曾經在高科技公司身居要職的員工們訪問,讓他們以一種現身說法的樣貌呈現在螢幕上,也吊了一下觀眾的胃口,帶出整個議題的重要性。

所以我以為此部紀錄片至少會「試圖」釐清這整個社會的根本問題;然而看完之後,只得到把矛頭指向這類社群媒體的結論,叫我們謹慎使用社群應用。另外貫穿所有時間軸的劇情故事,居然以操縱者良心發現作為 happy ending。

或許是經費或篇幅限制,這兩件事情在我看來都顯得收尾有點急促了。

接下會從這部紀錄片再連接相關的概念出去,作為我自己的切入點,或許有點跳躍,但希望可以提供另一個角度去看這部紀錄片所描述的現象。

科技發展超出預期

對我來說,人類社會發生這樣的變化,其中的「必然性」是更有趣的事情,你可以想像就算沒有臉書、沒有抖音,早晚也一定會變成這樣,只是可能換個企業罷了。

我認為最核心的問題是科技發展過快,這體現在兩件事情上:一是對人類行為逐漸被解碼(參考《「被」數據主義的人類》)、二是效率性的指數成長(參考《文明進步三部曲:效率帶來的災難、集權與貧民窟》)。

有人會說:「以前發明汽車跟電視也有一樣的反對聲音,但我們現在用這些新科技過得很好不是嗎?這種擔憂是否毫無根據?」的確,每當有新的科技出現,這種疑慮與恐懼的聲音都不會少,但也有一些跟以往工業革命不太一樣的事情在發生。

人類數據化

從人類行為解碼的角度來看,人類逐漸被解構成數字,在以前,我們研究數十年的行為心理學,尚且只能認識到一部分人類的腦部運作,但未來人類所有的反應,都很可能用數字解釋:

人類科技一直都在追求生物的解構,其終點就是極致的數據化、導致人文的消失,用機械解釋、操縱所有事物。 我們用盡科學的力量去解構人類的每個細胞、每個神經反應、每個行為的理由,但當人類的系統謎題全部解開之後,最終可能就是「數據化」的盡頭:任何情感反應、慾望、衝動都可以被數據化,行為也就能夠被衡量、記憶可以被竄改、慾望也能被操縱。《「被」數據主義的人類

效率災難

從效率性來看,傳統電視報章媒體的影響力雖然大,但有各種人為制約:媒體內報導會經過編輯手上、媒體外有政府的監督,更重要的是傳播效率也沒有網路這麼快與廣。而現在社群網站的規模,已經強大到一個人的決定就能潛移默化改變數以億計人類的想法。我們應該都同意,這是一個人類難以駕馭的武器:

高效率導致低可逆性:一旦效率超過人類能即時修復的能力範圍,要著手修復時可能已經造成大量的災難,這就是病毒傳播、核武等例子容易造成的不可逆性。《文明進步三部曲:效率帶來的災難、集權與貧民窟

集權 x 集體行動的困境 x 共識與治理

集權媒體/思想控制/去人性化現象的發生似乎是必然的,差別在於最終有多嚴重,以及能在終點之前做出多少抵抗。

曾經有人留言問我,科技能否解決集體行動的困境?既然可以從行為心理操弄、控制人類成癮,那理論上就可以用同樣的知識,反過來避免它發生,只是現實中會遇到很多難以制約這些權力的阻力。

集體行動的困境

又稱奧爾森困境。奧爾森認為:在集體選擇過程中,因為組織內各種利益的矛盾,以及集體行動的本質,導致很多時候,多數人未必能戰勝少數人。

目前的科技(AI、大數據、各種社群平台)恰好會讓權力少的階級比以前更分裂、更極端、更不傾向溝通與團結,這可能是無意的,但的確幫了掌權者一把,讓集體行動的困境更難被解決。

共識與治理

很多人期待區塊鏈的「共識演算法」能解決群體決策問題,但它不是萬能的銀彈,空有區塊鏈但只有極少數人參與,結果仍然是集權,什麼都沒改變。而參與對話、達成共識,一直都是人類的弱項。

如果能夠利用區塊鏈去展示各種治理、分權的可能、提倡大家積極參與、嘗試理解彼此、互相對話、提出解決方案、妥協,才有可能逆轉這個情況,這其中每一步的成本都很高且沒有捷徑,但如果做不到、或者來不及做到,集權就會達成最終目的。

當然,對於一個商業片來說,要期待能做到以上這些討論很不現實,畢竟這部片是要轉換成營收的,不是做慈善。相對來說,雖然我腦中有畫面,但卻沒有能力與時間轉化成圖片甚至影片,所以如果你能看完這篇文章的討論,對我也是很大的鼓勵。


此文收錄在專題《反烏托邦進行式》,目前有以下文章,你可以在公開平台搜尋這些標題,或是到 Substack 免費訂閱《米寫糕》,同時取得發文通知及所有分類文章列表:


喜歡我的文章嗎?
別忘了給點支持與讚賞,讓我知道創作的路上有你陪伴。

CC BY-NC-ND 2.0 版權聲明

「被」數據主義的人類

文明進步三部曲:效率帶來的災難、集權與貧民窟

3

看不過癮?

一鍵登入,即可加入全球最優質中文創作社區