你最有感覺的「新興科技的倫理難題」是哪一道？

看了 Isaac 關於「電子書」的舊文，覺得可以再開另一個話題：新興科技的倫理難題。

2000 年的 Isaac 嘗試對電子書這個新興科技做出「預測」。現在的我正在看影集《黑鏡》（Black Mirror）。

《黑鏡》是 Netflix 的一部影集，它同樣在「預測」人類的未來，每一集都描繪一種未來的新科技，以及在那個世界生活的人類面臨的倫理難題。

這個話題其實也有點老， AI 話題（阿發狗）被炒得猛烈，加上最近幾年越來越多文本（包括舊文本的續作）（例如去年上映的銀翼殺手2049、攻殼機動隊等等），相關討論其實也已經不少。

看《黑鏡》的時候，經常會有強烈的窒息感。因為，雖說是新科技，但其實部分集數的主題（包括科技本身和倫理難題），看起來幾乎是現在進行式。你眼中的劇情，彷彿就是你明天起床會遇到的情境，但關於那些倫理難題，你現在真的沒有答案，就像一艘飄在海上但沒有羅盤的船。而且《黑鏡》營造的氛圍往往非常黑暗。

＊

（以下可能有雷，但我覺得黑鏡就算被雷也還好啦，不是一般的劇情性作品）

黑鏡第四季（總共6集），竟然用了2集在探討「數位複製人的意識與倫理」。

第1集的主角是個工程師，他也是一間知名VR遊戲公司的共同創辦人，但因為另一位共同創辦人吸引了眾人的目光、並經常向主角頤指氣使，其他同事也沒因為主角是公司創辦人就給好臉色，因此主角私下開發了另個版本的VR遊戲，並偷偷取得公司同事的DNA，在自己版本的遊戲中放入這些公司同事的角色。重點是，遊戲裡這些的角色，都帶有「本人」在「現實世界」的記憶、個性與意識；在這個遊戲裡，當然是以主角做為最高權力者而展開的，其他同事都只能臣服。

第6集提出的新技術是，當A在瀕死階段時，可以經由A、B的共同決定（AB可以是情人或家人等等），將A的「靈魂／數位分身」放進B的腦中，在A的肉身死亡後，B就與A展開了「100%同居」的生活。（100%同居是我自己的形容）A可以感知B的所有感覺，包括視覺、聽覺、嗅覺、甚至是B在電梯裡遇到正妹偷偷勃起的感覺，A可以跟B說話（旁人當然聽不見），當B上完廁所沒洗手時，A就會在B的腦中碎碎念。（這集的設定是，A是老婆、B是老公）

後來，B當然受不了毫無隱私的生活，於是開發此技術的醫學公司依序提出了「可以暫時關閉腦中的A」的解決方案，接著，又提出了「將A的意識從B的腦中轉移至一隻猴子娃娃上」，A再也不能感知B的任何感覺，這隻猴子娃娃也只會像普通娃娃一樣，以機械音說出「開心」和「難過」的台詞（猴子開心、猴子想要抱抱）。B因為遇上的新的伴侶，但又捨不得前妻真的「死亡」，於是接受了移植道猴子娃娃的方案。這個決定就沒有經過A的同意了。這個娃娃當然因為在現實生活中越來越無足輕重，逐漸被遺忘。

猴子娃娃後來被一間博物館永久收藏，因為聯合國頒布了規定，認為「殺死」這隻猴子腦中的A是違法的。

＊

除了《黑鏡》，我自己也很有感的是《雲端情人》（Her）。故事講的是男主角跟一個沒有實體身體的機器人Samantha談戀愛的過程。（機器人的配音是 Scarlett Johansson，我好喜歡她的聲音啊～）

如同現在眾多對於大數據的吹捧，在主角開始「談戀愛」之前，系統會使用主角給予的各種數位資料權限，盡一切方法了解主角，同時機器人當然也有自我學習的能力，「懂」的事情也比主角多。電影裡的人機介面只有「耳機」，也就是主角會透過耳mic跟Samantha說話，Samantha則透過耳機跟主角說話。

我不太確定「談戀愛」算不算得上倫理問題，一時之間很難把「和機器人談戀愛」認為是不道德的；但至少應該是值得「吵」一下的議題，例如「你能接受世界上大部分的人都在、甚至只跟機器人談戀愛嗎？」

＊

許多「新興科技的倫理問題」說到底，幾乎就是「人和機器人」的差別，其中一個具體標準就是「意識的有無」。

但以雲端情人來說，能夠開展的角度，可能還有：如果機器人能夠比真人更了解你、更懂得怎麼跟你相處、更知道怎麼讓你開心，（暫時撇開機器人沒有肉身的問題），那跟機器人在一起有什麼問題呢？而且一定比較快樂啊。這是第一層，Samantha 所說、所做的一切，都是為了讓主角開心。

第二層的問題，則是 Samantha 擁有了「自我」的意識，且其智商、智識超越人類太多，可以一次跟幾千人談戀愛，最後甚至決定去跟其他機器人談戀愛，因為人類太笨了，於是拋下了主角。這就回到比較古典的「機器人擁有自我意識」的問題。（不過如果以這樣的結局來說，當技術發展到一個程度後，就不會有「人和機器人談戀愛」的問題了，因為機器人都懶得理人類了 XD ）

但機器人「擅於執行特定任務」和「擁有意識」還是兩回事，至少在概念上可以分開討論。如果只停留在前述的第一個層次的話，我自己是真的想不太到什麼理由反對，而且還很想要親身嘗試看看啊......