leafwind

在日軟體工程師|廣告→媒體業|資料科學與工程 熱衷於數據解讀與分析|用哲學觀察科技與社會 加入TG寫寫村群組:https://t.me/chinese_writing|加入TG資料森友會群組:https://t.me/all_about_data|聯絡我:https://about.me/leafwind

在 AI 產生自我意識之前,它已經被用來破壞世界

發布於

臉書可能是第一個,但不會是最後一個

前言

@黃哲斌我為何像恐怖舊情人一樣追殺臉書 一文提到,臉書在不同面向都有嚴重的問題:

操弄演算法、箝制網路訊息流、商業模式加速資訊劣化,加上臉書深入用戶個資,將隱私及人脈圖譜變現的黑暗技,讓我對這家企業的賺錢手法越來越反感

這篇文章並不打算探討全部,主要想著墨在「 AI 如何操弄演算法、箝制網路訊息流」這件事情上。

很多人可能知道,近年品牌經營者(粉絲團管理者)已經遇到觸及率下降的問題。(如果不知道也請放心,文末有參考連結)

然而,遇到問題的不是只有經營粉絲專頁的人,或許整個生態系都遇到問題了。


這篇文章嘗試從一般使用者的角度,去描述臉書讓我們遇到了什麼問題,而這個問題又怎麼跟 AI 演算法扯上關係。

在開始之前,必須先釐清一件事情:雖然「AI 發展出自我意識、開始屠殺人類」是科幻電影及很多人心中恐懼的情節,但現實生活中,AI「破壞」這個世界的方式,跟多數人想像的情節,可能不太一樣。

不是你想的魔鬼終結者就是了

文章前半將會描述「這件事情是如何發生?」,後半則是說明「為什麼這件事情可怕?」


使用者逐漸失去自主權的臉書

廣告?非廣告?難以判斷

以往的廣告形式,都是大剌剌的擺在突兀的位置,甚至蓋版,直接擺明「我就是廣告,你不想看也得看」

臉書跟許多平台一樣,開始使用原生廣告(native ads),顧名思義就是讓廣告長得跟貼文有 87% 像。所以當有兩個粉絲團的貼文同時競爭顯示,即使其中一個的相關性、推薦度比較高,也很有可能因為另一個付了錢,就理所當然地勝出了(而那一個輸掉的可能就是你已經指定「搶先看」的粉絲團)

臉書說:「嘿!我們有標示那是贊助廣告呀!」

但首先,真正在乎那幾個小字的人佔多數嗎?這就像酒類廣告下方小小的一行:「飲酒過量有礙健康」一樣,大多數人都不會在意

再者,即使所有人都是道德潔癖者,意志強到把贊助貼文排除不看,但那些被排擠掉的貼文,也不會因此而有機會顯示。


塗鴉牆的緩慢演進:逆時序的消失

從前,臉書跟噗浪一樣都是「逆時序」的社群平台。只要使用者時間夠多,他就能夠看到任何一則從 A 時間到 B 時間的訊息。比如,至少我有辦法看完今天所有的動態。

但這不利於廣告平台營利,於是臉書在佈局階段,偷偷地將塗鴉牆預設的演算法改成「人氣動態」,也就是機器幫你篩選「最相關、最有人氣」的貼文。在這段過渡期,我們還有辦法手動切換回「逆時序」。

最後為了討好廣告主(也就是品牌商),臉書正式把「逆時序」淘汰。使用者的確看到了比較「有人氣」的動態,但不知不覺廣告也入侵了,出現的機會也慢慢地變成用錢去買。

到這裡還不算太壞,畢竟使用者免費使用,付出一定的注意力讓平台運作,即使沒有那麼等價,也還算合理,至少「人氣」動態還是根據我們的喜好決定。


最後一根稻草:「通知」只能用金錢買

最後一階段,也是最可怕的,或許是因為品牌商越來越多,注意力不夠臉書「販賣」了,因此連「通知」功能都開始限縮。

當粉絲團管理者們發現,貼文觸擊率降低的原因是「通知」功能並不保證 100% 會將貼文送到使用者眼前,便呼籲粉絲們將自己設為「搶先看」,但可想而知,這功能最後也無效了。

也就是說,即使你按了某個粉絲團「搶先看」,它也無法與那些花錢的品牌競爭。雖然臉書官方表示一天會「選擇性地」推播三到五次,但經過我自己實驗,仍然有可能一天都看不到一次,原因很簡單:因為臉書要把這部份的注意力保留下來,賣給有花錢的粉絲團。


或許一開始的臉書使用者不知道哪些熱門、哪些相關,希望演算法推薦;但到了現在,即使使用者直接表明「我想看 A 粉絲團」,臉書也不再提供這樣的服務。

至此,臉書正式變成一個以錢決勝負、使用者毫無選擇餘地的平台。

也因為這些功能都是「漸進式」的改變,中間甚至耗費超過一年,使用者並不容易察覺這些功能已經失效(並且也沒有公開參數的改動),臉書在這個緩慢的過程中創造了一個假象:讓使用者以為自己有選擇權。

很多人都以為塗鴉牆、通知是按照我們以為的方式運作,但其實經過長久的演進,早就已經變質了:

在臉書剛被發明的時候,它的確是一個「社群平台」,但很快地,它便走向販售注意力的道路,現在完全不會有人質疑這件事情,臉書它就是個競價注意力的平台。

披著社群平台皮的廣告平台

披著社群平台皮的廣告平台

個人不討厭廣告競價平台,討厭的是打著「社群平台」名號,利用舊時代使用者「願意將注意力交給臉書管理」的信任度,但實際上把「推薦」與「競價」混為一談,甚至變成一個「使用者想要主動選擇關注一個粉絲團」都做不到的平台。

工業革命帶給人們的便利是建立在明顯可見的工具上,我們的各種機械、交通工具都獲得了飛快的進步;而資訊革命與 AI 帶來的影響更大、效果更劇烈,卻躲在人們無法看到的地方,不斷地運作,這是我認為需要擔憂的地方。

我們知道有錢人可以花錢搭私人飛機,因此比我快兩天跟客人談生意、或是用工廠生產大量的零件,用規模來賺取比我更多的錢;但我們無法知道有錢人如何控制我們看得到的資訊、改變我們的想法。

因此,若臉書能公開動態與通知的演算法,讓使用者清楚地知道自己是在「被販賣注意力」,而自己並沒有主控權,那我完全沒有意見。 可惜的是這件事情不太可能發生,因為「不讓使用者知道自己的注意力被販賣」的模糊地帶,恰巧就是廣告得以利用注意力營利的前提,而臉書這個包袱已經大到無法丟棄了。


當 AI 演算法逐漸變成問題

以上這些演算法的改動,或許有些人早就知道了,但可能還是有些人會覺得「怎麼跟我想像中的臉書不太一樣?」、「我不知道有這回事耶」

這就是問題所在。

在 AI 擁有自主意識、進化到可以反抗人類之前,我們有更近的問題要處理:「那些按照人類設計行動的 AI 演算法,正在用決策者認為最好的方式,大量介入你我的生活,而我們卻未察覺。

有些演算法的變化很難察覺,但卻是致命的

在《黑鏡》中有一集劇情是這樣的:

人類為了要滅絕某些基因有缺陷的人種(簡稱缺陷人),將晶片植入士兵腦袋,讓他們看到「缺陷人」的時候,影像被強制轉換成怪物,就能夠毫不留情地屠殺,也不會留下任何心靈創傷。

「把注意力交給臉書管理」跟「把感官交給殺人演算法」,可以看做是同一件事情。即使臉書不會叫你去殺人,但它們都一樣改變了我們看世界的方式、進而影響我們的想法。
另一個共通點是使用者必須在不知情的狀況下使用系統才有意義,所以它不可能告訴你演算法,一旦這些資訊公開讓使用者知道了,整個系統的控制就無效了。

現實生活中或許還沒有這種黑科技,可以植入晶片影響視覺,不過川普當選就是一個很好的例子。

而絕大多數時候,我們很難察覺到正在失去控制,這也就正是下一段要講的。


AI 的優勢:在高維度的數據中近似於神的存在

AI 對一般人來說,可以簡單理解為「比較厲害的演算法」;演算法不過就是程式,要說 AI 能發展出自己的智慧、屠殺人類,在現階段或許言之過早。

但 AI 最大的問題在於越來越能知道人類的喜好,甚至超越人類可以分析的次元範疇

古早的 AI 只能根據幾個維度或條件判斷,大部分人很快就能發現 bug、並知道這是 AI。現在 AI 可以做得更全面、更有效率,上百個維度都是可能的;反觀人類的大腦在分析數據時,能從三五個維度中找出正確的決策,已經相當了不起了,畢竟高中學線性規劃的時候只有兩個維度呢!所以只要在特定的問題下,AI 還可能比人類做出更準確的判斷。

在《星際效應》中,因為「祂們」有第五個維度,也就是重力,可以用來控制時間,這樣「更高次元的存在」在我們的觀點中,可以理解為某種鬼神。

星際效應中的高次元空間同樣地,在分析特定問題的數據空間當中,人類的視角是低維度的,而 AI 卻在高維度。因此,在這個數據空間內,AI 之於人類,就像是神的存在。

這造成的結果是「你以為 AI 的目的,跟 AI 真正的目的,可能是兩回事」

舉例來說:現在有兩派政黨,平常你在臉書都看到傾向 A 政黨的言論,也正好是你同溫層支持的政黨,但到了選舉時,臉書摻雜給你傾向 B 政黨的言論,你不知道演算法已經改變策略,便以為這些言論是 A 政黨支持者發出的聲音,進一步產生「或許 B 政黨真的比較好」的念頭,而改變政治傾向。

因為演算法可以因應選舉季節,做出不同推薦策略,而人卻不知道有這個維度會影響推薦結果。除了選舉季節,這樣的維度可能還有非常多,多到我們無法判斷臉書是如何運作的。


現在回到廣告,臉書說:「嘿!我們的 AI 可以讓你把時間花在那些有趣的動態!」

的確,這是真的,但臉書沒有告訴你的是:「我們也同時在優化廣告的收益、甚至其他人的利益!」,而這些參數怎麼交互運作的,臉書當然也不會告訴你。

因此,臉書篩選朋友的動態,也篩選粉絲團的動態,不知不覺中,某些人跟粉絲團的聲音慢慢消失,取而代之的,是那些「臉書認為對我們好」的訊息。


臉書只是開始

臉書或許是目前最早逐漸奪走控制權、也讓我最早聯想到《黑鏡》劇情的科技產品,很明顯地,它不會是接下來唯一的一個。(賣個關子,或許之後有機會談談另一個)

現階段對廣告、社群平台比較敏感的人,或許都還有辦法看得出來臉書做了什麼事情;但隨著 AI 高度發展,或許「下一個臉書」就可以做出更完美的排序演算法,用更多的維度,讓你我都無法分辨是否擁有控制權、讓我們活在一個更完美的、自以為有控制權(但其實完全沒有)的平台當中而不自知。

AI 目前還無法用自主意識屠殺人類,但它卻不知不覺改變我們看待世界的方式,我們就像黑鏡中的士兵一樣,接收著演算法想要讓我們看到的世界,這可能有好處、也有壞處。

但不管臉書往什麼方向演進,個人認為被控制並不是最可怕的事情,最可怕的是「不知道自己被控制」。


相關主題

原文連結東京疊塔



喜歡我的文章嗎?
別忘了給點支持與讚賞,讓我知道創作的路上有你陪伴。

CC BY-NC-ND 2.0 版權聲明

【我和我所創建的標籤】寫作、注意力、資料科學、AI濫用、反烏托邦

12

看不過癮?

一鍵登入,即可加入全球最優質中文創作社區