科学、技术与社会研究者,博物馆爱好者,PhD student@GaTech

「親愛的用戶,您的判斷力已被剝奪」

2017年11月,戴爾•馬博(Darryle Marble)攜家帶口來到了北卡羅來納州鄉下,參加一個叫“平地研討會”的活動。

研討會上大約有500人,無論背景、無論出身,他們全都篤信:地球實際上不是球體,而是一個平面。

馬博是演講嘉賓之一。他曾經為美國軍隊服役,在9·11事件之後被派去伊拉克打過仗。他是這樣談起他被“說服”的過程的——某天,他和女友在 YouTube 上搜一個科幻劇的時候,一部長達兩小時、宣傳平地論的“紀錄片”出現在了搜索結果之中。

“所有這些事情,一旦你開始瞭解,就停不下來了。因為你在看一個視頻的時候,就會看到旁邊的相關推薦視頻。”馬博說。他在 YouTube 上開始了一番 “研究”,內容包括美國策劃的“9·11陰謀”,以及控制全世界的羅斯柴爾德家族和光明會等等。“你最終會發現,沒有任何東西是它看起來的那個樣子。”

你一定覺得這樣的觀點十分荒謬。但是,我們所相信的東西,絕大多數都不可避免地來自他人;如果你身邊所有的人都把謬誤當做真理、接觸到的大部分資訊都是虛假錯亂的,還能出淤泥而不染嗎?能做到的人恐怕寥寥無幾吧。

而在當下的互聯網,這並不是危言聳聽。

「無腦的產品,就是最好的產品?」

曾經,互聯網的先驅者認為網路能打破無知的黑暗。他們相信,只要資訊充分流動起來,人們就不會陷入謬誤的包圍之中。這個願景至少前半部分是實現了:今天世界上超過一半的人能夠使用互聯網,網上的資訊也超過了人類歷史上任何一個階段。

如果你在二十年甚至是十年前接觸互聯網,你或許會十分熟悉“門戶網站”或者“論壇”這樣的地方。大量的資訊以前所未有的豐富程度展現在人眼前,人們仿佛獲得了充分的自由,而搜尋引擎的出現,則給了人無所不知的錯覺。

然而,資訊的爆炸增長,很快就到了人失去選擇的程度;與此同時,我們的螢幕卻漸漸縮小,直到手上5.5寸大小的一個觸屏手機。互聯網公司開始使用個性推薦的演算法來給迷失的使用者提供“最適合”的內容,也開始用自動播放、懸停預覽、滑動切換等流暢交互,將選擇的負擔降至最低——到了不假思索的地步。

然而,這些“無痕”地推送給你、讓你不假思索接受的東西,卻可能會讓你墜入另一種黑暗:像馬博一樣,陷落在無窮無盡的側欄推薦和自動播放之中,被資訊流和演算法掌控所見的一切,面對重複萬遍的謊言失去判斷力。

「推薦演算法到底推的是啥」

推薦演算法無處不在。在購物網站上買一袋洗衣粉,演算法會給你推薦三塊香皂;看了一部偵探小說,演算法會給你推薦三本推理懸疑。然而,在觀點的傳播上,演算法卻與我們的天性有著更加致命的契合:

用戶喜歡和自己觀點相同的東西,以及,演算法知道使用者喜歡和自己觀點相同的東西。

你當然不需要多餘的三塊香皂,或者滿書架的偵探和懸疑小說。然而,人對於觀點的接收沒有上限,而且總會用更多相似的東西去印證自己的認知。如果你不小心點開一個陰謀論的視頻,YouTube 的演算法便會假定你是其信徒,用“相關推薦”把你淹沒,只要你有閒心觀看,便可以照單全收。

你的所謂“個性”,在演算法眼中不過是一個基於過往行為的“演算法身份”(algorithm identity)——比如看到貓片有 68% 的概率點贊。這樣簡單的邏輯,能讓演算法將你的偏好無限誇大。你點擊一個左翼觀點,那麼演算法就會在你的時間線裡安排各類左翼觀點;而當你再次點擊相應的內容,這個點擊又會被演算法識別為你對此類內容的偏好,然後在時間線裡展現給你越來越多的左翼觀點……

只有少部分人會像產品經理想的那樣,用“折疊不喜歡的內容”等複雜的動作去“調教”推薦演算法 [注1];大部分人只會進行直覺主導的簡單行為,這能讓人輕易進入不斷自我加強的迴圈。

這就是線上內容消費的“資訊繭房”。數據詮釋了你的行為,你的行為又變成了數據本身。觀點被不斷地加強,不斷地重複,不論是真是假。

而資訊生產者在迎合演算法的過程中,又給我們的“輕信”鋪了路。

「這麼多人點贊?!」

當下的互聯網,數據就是一切。重要性、真實性和公共利益,以及用戶的“品味”這樣微妙的詞彙,都太過虛無縹緲;只有點擊、互動和傳播才能通過演算法詮釋為實實在在的效果,決定內容能帶來的收益。例如,在 Facebook 上,一篇文章在給定時間的點擊數和互動數成為了是否出現在用戶時間線的重要權重;微博的演算法中,前一個小時的互動數量決定了後一個小時的位置。

數據決定著它內容的“重要”程度,也成為了內容生產者、運營者乃至讀者趨之若鶩的東西。然而,追求數據的過程,卻製造了大量的偏見和錯覺。

利用情緒煽動來沖數據就是辦法之一。可能任何一個新媒體編輯都非常熟悉這樣的套路——給文章注入強烈的情緒,讓用戶帶著相同的情緒在自己的時間線上表達、甚至發洩。德國明斯特大學的研究者分析了推特上超過16萬條的政治觀點類推文,發現帶有情緒的內容的傳播量顯著高於沒有明顯情緒表達的 [注2]。而賓夕法尼亞大學的研究者分析了大量《紐約時報》的新媒體內容,發現帶有情緒喚醒元素的文章——例如憤怒、驚訝、驚奇等——獲得了最多的轉發,擴散程度與文章的具體內容無關 [注3]。

然而,一旦情緒變成了能夠用數據體現的群體表達,就會形成危險的錯覺。所羅門·阿希早在1956年就做過一個“從眾實驗”,讓被試比較幾根線段的長短。實驗裡有6個受研究人員雇傭的假被試,在1個真被試的面前故意給出錯誤的判斷。有3/4的真被試,都被假被試的錯誤“帶跑”,給出了同樣錯誤的判斷。

“如果嫌一篇文章太平淡,那就樹個假的靶子,再使勁打它”,一個新媒體編輯這樣跟我說,“如果看到留言裡面的人都在打靶子,讀者就更有可能會跟著表達,把文章‘轉起來’。” 擅於用直覺共情的人類,對群體情緒很容易失去抵抗,這種情緒上的 “刻奇” [注4],能在演算法支援的表達下展現得淋漓盡致。

從數據上看起來,所有的帖子都仿佛有著“原來我不是一個人”“簡直太准了”的既視感。然而,演算法的吊詭之處就在於,只有支持的、相信的、參與的,才會得到正面的展示;至於沒說中、不支援、關掉視窗走人的那些,很大可能表現不到數據上。畢竟,在演算法的指導和判斷下,最有可能被點贊的內容,才會出現在相應使用者的資訊流裡。那些“太准了、傳瘋了”的表像,不過是體現在你時間流裡的數據樣貌而已。

「每個人都在變笨,每個人」

相信謊言,並不需要太多思考,只需要被網路傳播挾持。而謊言總是會順著演算法的思路,自動找到那些最需要、也最喜歡它的人:在時間的稀缺和資訊過剩擠壓下,懶惰而缺乏判斷力的人。

回過頭來仔細研究那些信了“平地論”的人,其實他們對平地的“學術價值”不感興趣,地球是平的還是圓的跟他們沒有半點關係——畢竟他們中的大部分一輩子也不會到地球的另一邊。他們一遍遍重複的,是“我們被騙了”的憤怒情緒,而越容易被這樣的情緒挾持,就越容易一次次點擊“下一個”,尋找安慰和滿足。

而在撞進這個圈子之後,他們被更多相同的情緒所淹沒,看到更多的人在相信著這些,為它點贊、幫它傳播,甚至還能聚在一起開一個研討會——在群體裡的安全感,讓這些人更加堅定了地平的信念。

而你和我,都有可能成為這樣的人。

在如今的互聯網上,海量的資訊與我們有限的時間之間,存在根本的矛盾。就 World Wide Web 基金會一項持續數周的可控研究顯示,實際出現在使用者時間線上的內容,僅僅為其理論可能(也就是訂閱源在這期間釋出的所有內容)的20%左右,就更不用說真正被看到的內容有多少了。

我們也並沒有在互聯網上養成深思熟慮的習慣。德國達姆斯塔特大學和德累斯頓大學的一項研究,調查了2009-2014年 Facebook 的使用者行為,發現不管產品設計如何改變,使用者對於單個內容的判斷和消費都驚人地一致——要不要點開一個帖子的判斷在10秒以內,平均9.5秒;用戶每次拿起手機(或者登陸網頁)平均會花掉6分44秒、滾過43個帖子;而對於朋友發的內容和商業網站的新聞內容,人們的注意力程度幾乎相同——到了不過腦子的地步。判斷一個內容是否值得一看的依據,也變成了有多少人在看,有多少人點贊,有多少人同意的直觀數據。

更可怕的是,這些思維的懶惰面,會變本加厲地餵食出膚淺的演算法,並成為重複的謊言中的一部分。機器根本不在乎真假美醜,它只是不停地計算我們最本能的喜好,並把內容不加區分地推送給我們。每一次點擊,每一次互動,每一次傳播,都成為了演算法識別的“食糧”,成為別人眼中“這麼多人在看”的依據。

是網路讓資訊變得粗糙扁平、謊言氾濫?還是我們本來就是愚蠢而衝動的動物?或許都有。當所有資訊被壓扁成一句話、一張圖、一個短視頻,並按照所謂的“喜好”推送,我們缺乏判斷力、不願思考、情緒化的弱點便會被無限放大。而將我們置身於傳播的群體洪流中,生性從眾的我們,更是難以抗拒——哪怕是徹頭徹尾的謊言。

謊言被演算法重複一萬次就變成了真理,這大概是社交網路時代無法逃避的無奈現實。

注釋

1,Facebook 的產品設計人員在接受 Slate 的採訪時表示,“折疊”(fold)功能對於大部分人來說是非常強的負面行為,很少有人真的會使用;其中有5%的用戶進行了全網站80%的折疊動作(被稱為 super-folder),這部分人只是將折疊當做“已讀”來使用,對這些人來說,這個動作其實已經失去了原本對於推薦演算法的調節意義。

2,Stieglitz, Stefan, and Linh Dang-Xuan. "Emotions and information diffusion in social media—sentiment of microblogs and sharing behavior." Journal of management information systems 29.4 (2013): 217-248.

3,Berger, Jonah, and Katherine L. Milkman. "What makes online content viral?." Journal of marketing research 49.2 (2012): 192-205.

4,刻奇來源於德語詞 kitsch,指個體的認知與情感表達主動地或者不自覺地遵從外在的強大的秩序,以判斷這種體驗是否正當、高尚、合乎時宜。

本文首發于我的個人公眾號「李子的人間博物館」(id: museumofus)

社群媒體20網路62
88
88

看不過癮?

馬上加入全球最高質量華語創作社區,更多精彩文章與討論等著你。