學展

學展,政治工作者。台灣中壢人,是七年級也是90後,關注數位產業、台灣政治、媒體、兩岸議題。

你最有感覺的「新興科技的倫理難題」是哪一道?

發布於

看了 Isaac 關於「電子書」的舊文,覺得可以再開另一個話題:新興科技的倫理難題。

2000 年的 Isaac 嘗試對電子書這個新興科技做出「預測」。現在的我正在看影集《黑鏡》(Black Mirror)。

《黑鏡》是 Netflix 的一部影集,它同樣在「預測」人類的未來,每一集都描繪一種未來的新科技,以及在那個世界生活的人類面臨的倫理難題。

這個話題其實也有點老, AI 話題(阿發狗)被炒得猛烈,加上最近幾年越來越多文本(包括舊文本的續作)(例如去年上映的銀翼殺手2049、攻殼機動隊等等),相關討論其實也已經不少。

看《黑鏡》的時候,經常會有強烈的窒息感。因為,雖說是新科技,但其實部分集數的主題(包括科技本身和倫理難題),看起來幾乎是現在進行式。你眼中的劇情,彷彿就是你明天起床會遇到的情境,但關於那些倫理難題,你現在真的沒有答案,就像一艘飄在海上但沒有羅盤的船。而且《黑鏡》營造的氛圍往往非常黑暗。

(以下可能有雷,但我覺得黑鏡就算被雷也還好啦,不是一般的劇情性作品)

黑鏡第四季(總共6集),竟然用了2集在探討「數位複製人的意識與倫理」。

第1集的主角是個工程師,他也是一間知名VR遊戲公司的共同創辦人,但因為另一位共同創辦人吸引了眾人的目光、並經常向主角頤指氣使,其他同事也沒因為主角是公司創辦人就給好臉色,因此主角私下開發了另個版本的VR遊戲,並偷偷取得公司同事的DNA,在自己版本的遊戲中放入這些公司同事的角色。重點是,遊戲裡這些的角色,都帶有「本人」在「現實世界」的記憶、個性與意識;在這個遊戲裡,當然是以主角做為最高權力者而展開的,其他同事都只能臣服。

第6集提出的新技術是,當A在瀕死階段時,可以經由A、B的共同決定(AB可以是情人或家人等等),將A的「靈魂/數位分身」放進B的腦中,在A的肉身死亡後,B就與A展開了「100%同居」的生活。(100%同居是我自己的形容)A可以感知B的所有感覺,包括視覺、聽覺、嗅覺、甚至是B在電梯裡遇到正妹偷偷勃起的感覺,A可以跟B說話(旁人當然聽不見),當B上完廁所沒洗手時,A就會在B的腦中碎碎念。(這集的設定是,A是老婆、B是老公)

後來,B當然受不了毫無隱私的生活,於是開發此技術的醫學公司依序提出了「可以暫時關閉腦中的A」的解決方案,接著,又提出了「將A的意識從B的腦中轉移至一隻猴子娃娃上」,A再也不能感知B的任何感覺,這隻猴子娃娃也只會像普通娃娃一樣,以機械音說出「開心」和「難過」的台詞(猴子開心、猴子想要抱抱)。B因為遇上的新的伴侶,但又捨不得前妻真的「死亡」,於是接受了移植道猴子娃娃的方案。這個決定就沒有經過A的同意了。這個娃娃當然因為在現實生活中越來越無足輕重,逐漸被遺忘。

猴子娃娃後來被一間博物館永久收藏,因為聯合國頒布了規定,認為「殺死」這隻猴子腦中的A是違法的。

除了《黑鏡》,我自己也很有感的是《雲端情人》(Her)。故事講的是男主角跟一個沒有實體身體的機器人Samantha談戀愛的過程。(機器人的配音是 Scarlett Johansson,我好喜歡她的聲音啊~)

如同現在眾多對於大數據的吹捧,在主角開始「談戀愛」之前,系統會使用主角給予的各種數位資料權限,盡一切方法了解主角,同時機器人當然也有自我學習的能力,「懂」的事情也比主角多。電影裡的人機介面只有「耳機」,也就是主角會透過耳mic跟Samantha說話,Samantha則透過耳機跟主角說話。

我不太確定「談戀愛」算不算得上倫理問題,一時之間很難把「和機器人談戀愛」認為是不道德的;但至少應該是值得「吵」一下的議題,例如「你能接受世界上大部分的人都在、甚至只跟機器人談戀愛嗎?」

許多「新興科技的倫理問題」說到底,幾乎就是「人和機器人」的差別,其中一個具體標準就是「意識的有無」。

但以雲端情人來說,能夠開展的角度,可能還有:如果機器人能夠比真人更了解你、更懂得怎麼跟你相處、更知道怎麼讓你開心,(暫時撇開機器人沒有肉身的問題),那跟機器人在一起有什麼問題呢?而且一定比較快樂啊。這是第一層,Samantha 所說、所做的一切,都是為了讓主角開心。

第二層的問題,則是 Samantha 擁有了「自我」的意識,且其智商、智識超越人類太多,可以一次跟幾千人談戀愛,最後甚至決定去跟其他機器人談戀愛,因為人類太笨了,於是拋下了主角。這就回到比較古典的「機器人擁有自我意識」的問題。(不過如果以這樣的結局來說,當技術發展到一個程度後,就不會有「人和機器人談戀愛」的問題了,因為機器人都懶得理人類了 XD )

但機器人「擅於執行特定任務」和「擁有意識」還是兩回事,至少在概念上可以分開討論。如果只停留在前述的第一個層次的話,我自己是真的想不太到什麼理由反對,而且還很想要親身嘗試看看啊......

喜歡我的文章嗎?
別忘了給點支持與讚賞,讓我知道創作的路上有你陪伴。

CC BY-NC-ND 2.0 版權聲明
8

看不過癮?

一鍵登入,即可加入全球最優質中文創作社區