Seifert

Facebook粉專【SeiferTalks 個人議見】 1.小說、散文 Episode: about/seiferthan 2.心理、社會 Matters: @seiferthan999 3.書評 Vcous: user/@seifert Line輸入@seifertalks 可加入【閱讀即生活】 或用QRcode:https://lin.ee/zDPSJB3

被科技綁架的智慧城市 | 書評

發布於
修訂於

適當地應用科技,才能重新掌握我們城市的未來

The Smart Enough City: Putting Technology in Its Place to Reclaim Our Urban Future

更多文章,歡迎追蹤【SeiferTalks

被科技綁架的智慧城市

《被科技綁架的智慧城市》作者為Ben Green,根據折書口的簡介,本書出版時其仍為哈佛大學應用數學系博士候選人,並於2016年到2017年間擔任美國波士頓創新與科技部門的數據科學家。中文譯者為廖亭雲;由行人文化實驗室於2020年8月出版。

智慧城市(Smart City),在此詞彙出現前後、都大量充斥著欲將各種(最新)科技、網路、大數據、人工智慧應用於城市生活的想法或政策(根據作者觀點,最早可見自1930年代後)。它們早已不斷充斥在政府廣告、選舉宣傳、甚至是大大小小無論是否可能為有關企業所「業配」的文章之中。令人「細思極恐」的是:我們無法指出是從什麼時候開始的、發生在哪裡,卻都清楚地知道自己幾乎常聽見或看見這類主張。

這,就是《被科技綁架的智慧城市》一書最主要的論點:採用科技治理市政一事,恐怕已經擺脫了民主機制、責任政治等監督,監控甚至不知不覺中影響了所有人

「綁架」一語無疑是中文書版社為了使人聳聽而下,但從某些程度看:由於對複雜技術內部的知識落差(例如:幾乎沒有任何官員或市民真正明白機器內的演算法到底是怎麼運作),市府官員和民眾往往只能一知半解地接受或服膺。一旦採用也難以監管或問責,因為算法等技術面涉及出企業營業秘密,市府更可以用「機敏資料」等理由高築起人民對其探詢和檢討的門檻。整個城市猶如被無數的訊號、鏡頭、線路所束縛。

本書作者具有深厚的科學—特別重要的是「數學」領域—之理論與實務經驗背景,更難得的是:在其參與曼哈頓如此龐大且國際化的都市市政業務過程中,他沒有苟且於單一部門與官僚體制內安穩的「小日子」,而是警覺到:在面對充滿「活生生的人」的真實世界,單憑純粹自然科學與電子計算機,絕對不足以關照人類社會極端複雜的多樣性和衍生問題。為此,Ben Green將研究與對知識的探索充分延伸向政治學、社會學、經濟學等範疇,以求更全面地瞭解應該如何避免單從技術面作出具有偏見且不周全的決策

我認為:這是台灣任何一名公務員(包含民意代表)都應該人手一本的好書,甚至應該每天由市長、局長、或科處首長開讀書會與人員討論內容要旨。

《被科技綁架的智慧城市》從作者親身參與和收集來的案例出發,逐一就過度崇尚「科技治理」對人民的「隱私」、「犯罪問題」、以及「民主參與/問責」所產生的侵害作出表述。所舉都市雖然多在加拿大和美國,可其中許多問題在台灣—特別是像六都這類競逐發展的大城市—也在所多有。

本書舉例充分鮮明,輔以作者從科學技術和政治人文兩面的關懷剖析,在短短286頁的篇幅內作出了讓人印象深刻的檢討和警示(且相當符合其學者身分地附上眾多參考及引用資料)。對這類佳作撰寫評論相當具有挑戰,因此我不打算作太多綜整,改從Ben Green於篇末提出的五大建議進行呼應和反思。

如何才能避免「智慧城市」與崇尚科技治理的偏誤對整個都市及生活其中的人們造成傷害?作者歸納出貫穿本書的五大原則:

一、處理複雜的問題而非表面上的問題

這裡簡單提出兩個書中的例子就能夠讓讀者明白。

MIT(Massachusetts Institute of Technology,麻省理工學院)在2016年提出了一個「智慧十字路口」的交通計畫,可以讓「自駕車」(Automating Vehicles)在都市內暢行無阻,但卻成了最經典的荒唐案例:

一但這種新技術佈署完成,塞車將會成為歷史灰燼,而這些未來街道的模擬似乎預示著新紀元的黎明,先進科技將能有效緩解長期都市的交通問題。
然而,MIT所設計的數學模型和模擬仍有不足之處:人群。他們的城市街道中除了車流之外,沒有任何生命體的存在,而這項缺失之所以特別值得一提,是因為MIT模型核心中的十字路口,其實是波士頓市中心最繁忙的行人和運輸要道,也是全美國最適合步行的地點之一。

另一個例子則是使用大數據分析、標定甚至「預測」哪些區域是城市裡的犯罪熱點,用作為一種「預測性警務」(Predictive Policing)。然而,人權團體甚至連警方高層都發現:採用這類技術雖然能夠顯示出犯罪率高的地方,可卻也讓員警執勤時採取更容易侵害人權的措施。當員警在系統警示的時間進入警示的範圍,他們通常會產生「極度警覺」的狀態;這讓員警「把看到的所有人都當成可能犯罪份子」。此外,由於機器學習的資料是過去的紀錄,而長久以來美國種族歧視造成有色人種和外來族裔被逮捕率偏高,亦使得電腦分析所得出的建議充滿了「中立的偏見」。

更深一層來看:某些地區遭到逮捕或犯罪率高,其實是因為「醫療資源」短缺或距離太遠,使得具有身心疾病的民眾缺乏醫療或持續定期就診的機會。2015年時任美國科技部首長資深顧問的Lynn Overmann就說:

美國最大型的心理健康設施通常就是我們的地方監獄

換言之,當面對交通堵塞與降低犯罪率等問題時,只看到表面情況就急著採用大數據、人工智慧往往會適得其反。因為「機器學習」是「垃圾進,垃圾出」(Garbage in; Garbage out):送進高性能電腦與「餵」給演算法的資料絕大多數都是過往累積的紀錄,倘若那些紀錄本身就充滿了偏見,電子系統最後傳送出來的也將是充滿歧視的參考。另一方面,表面上有因果關係的狀況也可能不如所見,或許是統計學中的「虛假相關」(Spurious Relationship)。前面精神疾病患者與犯罪率高地區之間即是一例。如果僅從表象觀之:某些地區易滋生犯罪單純由於聚集許多遊民,所以驅離遊民或加強巡邏成了要務。但在貧窮遊民表象之下實際是因為經濟困境導致的精神疾病。一般人不會無端發動攻擊,除非他控制不了自己,或者根本就不知道自己在做什麼。

容易塞車就開更多的馬路、出了問題就把人送進監獄(或者嚷嚷要求判處死刑),這些聽起來不也是台灣的現況?這麼做之後真的有比較好嗎?書中諸多實例都給予確切的否定答案。

二、應用科技來解決社會需求與推動政策,而不是讓目標符合科技功能

原本想要透過「全民監督」來提高公共設施修繕效率,並讓一般民眾都能檢舉以達嚇阻和減少車輛違規,但台灣最近一兩年卻從警員到民眾都被「檢舉達人之亂」搞得不堪其擾。這就是「單純為了效率」而沒有充分考量負面效果的實例。

書中則是以美國的一款「311應用程式」例子指出:增加民眾傳送待補坑洞所在位置的速度並不會提升「真正的公民參與」。事實上,反而會減少投入民主政治的意願,因為人們認為「問題傳送出去」就沒事了;更深入的討論與問責都被跳過。除此之外,能夠隨時使用APP進行檢舉或者提報問題的往往是年輕人、中產階級以上的人家:他們知道怎麼用也隨時有無線網路。那麼沒有手機、不曉得如何使用、甚至沒錢支付網路費用的民眾呢?另一種歧視與次等分類油然而生。

「參與式預算」(participatory budgeting)是作者給出的解決方案。鼓勵並引導民眾積極加入市政議題的討論與審議,才是真正的公民參與。類似的論調其實在台灣也出現已久,但政府機關往往把問題很多的人民看成找麻煩的「刁民」、害怕這種參與會阻礙公務人員的施政跟績效,因此即便倡議多年卻從未好好實踐。部分縣市實行的「青年議會」或「青年諮議」更是繡花枕頭,毫無用處。早些年月,政府單位會用「網路不夠」、「技術不足」等理由搪塞,指稱大批民眾同時間即時上線或者太多使用者在討論區會讓系統無法負荷,可即使在頻寬與資料處理成本大幅降低的現在,依然未能落實。

三、優先重視政策與方案改革,而不是優先考慮用新科技

這點可以算是第二點原則的延伸。解決問題不應是先找科技工具然後看要怎麼使用,而是該先查出真正的因果關係。

再以精神病患與犯罪率為例。當警方單純以犯罪熱點和有關的電腦預測為依據時,「更快地把人抓起來然後送進監獄」似乎就成了最創新的方法。然而,當精神疾病患者、低收入戶或經濟困難的單親家庭青少年沒有辦法獲得良好的醫療與教育、或社會資源的持續分配不均、未能出現在極度需要的地區,那麼看守所跟監獄依然會人滿為患;出獄後的人可能會情況更嚴重。一昧地只看到與只想用大數據、人工智慧、演算法解決人的問題,通常只會重蹈「治標不治本」的覆轍。

四、確保科技的設計與應用能保障和促進民主價值

無論在美國或者台灣,「民主價值」都是國家體制的重要基礎。其中又以「公民參與」和「責任政治」最為關鍵。

對於政治、選舉、政策的冷漠,使得官僚體系內的壞分子有機會上下其手、濫權貪污。將「私人企業利益」或「追求效率」置於充分監督之前,則將損害人民的各種權益,包括(但不限於)隱私權、參政權、資訊請求權、甚至是最近由歐盟提出的「被遺忘權」(right to be forgotten:人們有權利要求移除有關於自己的負面訊息或過時的個人身分資訊)等,也會使民意代表在問責行政機關,及查察販售技術與機器的私人企業時更為困難。前述兩者都對民主政治與人權的造成深刻傷害。

要採用一項科技時,首先應當意識到:國家或都市的治理,本質上是一種「政治」活動,不該是單純的技術選擇。在開發、佈署的過成中,我們應該不停地問(對,『不停地』):「對誰有利?誰有發言權?誰能夠監督?將賦予了那些人或單位更多權力?只有持續地監督與制衡,才能保護和促進民主價值與民主政體。

五、培養市政單位運用資料的能力,並擬定流程

撇開政府與人民彼此間的利益衝突,行政機關內部的本位主義和缺乏整頓也往往才是成效不彰的主因(而非有沒有用上最新科技)。市政府或中央政府充滿了各種單位、各單位又常有各自獨立的系統、檔案格式、資料分類或處理程序,這讓分析工作困難重重,更別提看透表現、避免「虛假相關」。人員之間的配合度與交流意願不是電腦能夠解決的。讀者如果年紀稍長,或許還記得早期各個縣市都有自己的免費WIFI,但每個縣市的免費WIFI都要申請不同的帳號密碼。好幾年後才統整成「iTaiwan」、才能夠註冊一次全台通用。

另一個值得檢討的部分,則是人員本身抗拒新的科技或技術。這一點在台灣的報稅系統最為明顯:明明國稅局、財政部就已經有每個人最完整的財務細部資料,卻還是要人們花上許多時間自己申報一次。即使可以網路申報,但是系統介面的不人性化不友善,始終是政府機關開發應用程式或網站時的通病。

除了以上《被科技綁架的智慧城市》作者所提出的五點外,我個人認為還應該加入以下一點:

回歸培養與改善參與公眾事務的積極性

台灣開始重視資訊科技教育、甚至想從小學納入AI課程(雖然我真的覺得是瘋了);究其宗旨全是為了所謂「提升產業競爭力」或「加強就業能力」等理由。然而一遇到參與公共事務,絕大多數的家長或學校老師,依舊抱持著「你只要好好讀書,其他都不要管」的心態。換言之,如果在公民素養領域沒有改變人的態度,那麼即使把演算法的原始碼或超級電腦的藍圖從博士班到幼稚園的學生都發一份,依然無助於將「被科技綁架」的市政或國政解脫出來。人們對於政治和群眾事務的冷漠、事不關己的態度,與官僚體系不希望人民看得太透、問得太多,同樣對民主政治具有嚴重的殺傷力。

以上就是我依據行人文化實驗室於2020年8月出版的《被科技綁架的智慧城市》所作的書評。願好書幫助你我一起成長。


書籍訊息

《被科技綁架的智慧城市》

喜歡我的文章嗎?
別忘了給點支持與讚賞,讓我知道創作的路上有你陪伴。

關於居住與都市議題,這些書也值得看!

科技创新能够列入国家规划吗?

台中市政府將區塊鏈應用在畢業證書和志工證明

1

看不過癮?

一鍵登入,即可加入全球最優質中文創作社區