【翻譯思考】ChatGPT 和聊天機器人的近未來史

2022年底Open AI 所開發的CharGPT，在12月後引起了智慧型聊天機器人的狂潮（下圖範例我就放收集到的Trump 談BTC），不過對於跨度更大的科技史發展而言這到底代表什麼，是更有趣和深刻的議題．我決定把2021年出刊的人類理性巔峰的論壇LESSWRONG(LW)相關文章「what-2026-looks-like」簡單翻譯節錄與大家分享，希望可以有提供更寬廣的視角理解我們將會面臨什麼，依照慣例歡迎留言、轉發、拍手讚賞和捐款．(本篇文章的封面是由Midjourney產生)

背景

本篇文章是基於作者在2021年的當下盡力寫出最可能的聊天機器人未來軌跡．先寫出2022、然後根據2022寫出2023等等．這種迭代撰寫方式除了避免掉「以終為始」的常見故事書寫弊病外，也提供了常見未來學討論比較少見的故事細節．

2022年

在OpenAI Google 和Facebook 等大企業的努力下，更先進的聊天機器人模型讓GPT-3已經成為歷史．聊天機器人的對話變得有趣、但是不穩定，仍舊被知識分子認為是淺薄的、而且對於極為重要的應用都沒什麼用．但是人們已經願意為有趣對話付費．炒作(Hype）正在成形．

個人評論：這大概就是目前ChatGPT引起的迴響，這個騷動將會持續擴大．

2023年

更大的聊天機器人模型需要花費上億美元、一整年的時間和大量GPU．Hype進入瘋狂階段，人們開始認為常識性理解（人工智能助手或伴侶）就在眼前，就樣當初看待無人車、無人機送貨一樣．因為有些聊天機器人相關的應用/產品收入很高，可以做到一年回本，所以即使多數的產品多還沒落地（在畫餅）、VC 仍舊瘋狂湧入．

人工智慧社群對於智能爆炸不可回歸點的討論，擁有了更短的時間軸（約2030）．社群開始建立自動化工具來解釋聊天機器人的進展．（因為研究神經網路的可視化將會消耗太多人力）

至於為何無人車、無人機送貨仍未成真，主流意見是認為現行ML典範無法處理現實世界的複雜性、非主流意見（人工智慧信仰者）認為架構沒有問題，就是需要大幾個數量級的模型並且讓其崩潰幾十萬次之類的．基於成本理由，這個爭論不會被解決．

個人評論：AI 繪圖和AI 聊天機器人的Hype 高潮看來回在明年爆發，VC手上總是有資源要投到些神奇標的

2024年

沒有實質性的進展，企業把錢花在微調和提升現有的模型，而不是訓練更大更新的聊天機器人．2022-2023年的Hype已經退去，人們發現雖然有些去年無法上線的產品今年成功上線，不過產品落地所能吸引的使用者基本上已經都已經被捕獲，主流社會的刻板印象認為再度回歸，認為相關相關使用者（會相信聊天機器人有意識或有智慧）是住在地下室的科技怪咖．

雖然人工智慧已經開始加速科技發展（例如幫助半導體晶片產業設計更新的FAB），其對於GDP的加速仍舊是效果太小．

即使聊天機器人的模型可以在微調（不斷遞迴）之下產生某種意識流文本、使其產生出讓人印象深刻的對話．不過因為聊天機器人容易「分心」，還是會產生胡言亂語而無法「總是達到」令人滿意的水平．

或許人工智慧仍舊不聰明（會犯下愚蠢的錯誤）、當然不會欺騙人類或對人類開火．人工智慧造成的問題是被微調參與宣傳戰．

在西方世界，這樣的網路宣傳不是拿來賣產品、而是拿來販售觀點，透過微調文章開頭和內文來最大化參與度就像2010年代的A/B 測試一樣普遍．審查制度變得更加劇烈和普遍，除了反仇恨言論外，聊天機器人也會被用於「慫恿」人群相信或是不相信某個觀點，這不是那種連支持者看了都會倒胃口的罐裝回應，而是非常自然與有機的對話．當然以上是西方的發展，在中國與俄羅斯等地會全面部署聊天機器人來進行內部同化與分而治之兩極化的美國社會．

個人觀點：聊天機器人的落地應用或許不是商業應用，而是數位極權主義的基石…

2025 年

聊天機器人可以和人類進行外交對話了（政治談判），數百萬使用者湧入網站體驗「有意義的對話」．社群開始審問人工智慧安全相關的議題，包含「如果我們創造更強大的你、你會殺了我們人類嗎」．當然這些看似讓人震驚的研究其實都無需驚訝，因為你也可以設計出不同模型來支持自己的結論（幾乎所有可能結論）．2020年需要十億美元設計的聊天機器人模型成本下降到千萬美元（1%)．當然人工智慧仍舊不夠聰明，不會產生任何特別有用的想法，即使其能夠透過運氣台列組合出好的想法（已經足夠讓人不安）．

個人觀點：如果聊天機器人真能在這個十年的中葉進入談判的範疇，即使不是具有意識（只是讓人覺得有意識），也夠使人震懾了，

2026年

透過結合一般性理解的人工智慧和玩遊戲的人工智慧，AI 助理的時代終於來臨．他能夠當你的朋友與你聊天並且一起玩遊戲．相關技術也終於被用來處理嚴肅的經濟活動，人們在2021年的夢想（從GPT-3以來的夢想）終於成真，新的炒作再次成型，資本正在湧入，人們又再次這是第四次工業革命．而科技革命總有贏家和輸家，這次也沒有什麼不同．

為何特別談論由人工智慧驅動的宣傳呢？

在技術飛快進步的同時，各國法規是臨時和湊和的，除了地域之隔外、同一個國家也可能會對不同產業（新聞VS 臉書）和不同的目的（商業廣告VS政治廣告）有不同立場，所以基本上是監管不力．人們仍舊記得和懷念這一切開始之前的2021年．2026年時所有的網路空間（從Podcast 到信箱客戶端、新聞聚合器）都會有宣傳的成分．人們不再是生活於具有多樣性的小泡沫中，而是剩下幾個大泡泡定義的現實（除了馬太效應外，要進行全面審查和監管成本極高，沒有多少意識形態能負擔訓練類神經網路和購買大量GPU)，網路最終被分割統治．四大陣營由控制範圍來排列是西方左派、西方右派、中國、以及俄羅斯，處在泡沫內部的人們將難以察覺（人們認為美國沒有進入內戰是當代奇蹟）．這些可怕的影響都會是持續多年甚至是幾十年的軌跡，只是速度因為人工智慧加強而加快．

關於聊天機器人的意識

2024年之前個人助理和聊天機器人的分野還有意義，隨後便不再存在．2026年時多數人們與聊天機器人對談是為了尋求幫助（譬如買東西、或是問穿著打扮），不過許多人開始為了好玩把聊天機器人當作朋友．為了回應大量關於其自身的感受和願望等問題，聊天機器人將會透過Arxiv 和Wiki的資料訓練後理解自己的內在算法與源起．可以說不停詢問聊天機器人相關問題是幫助其發展自我意識的刺激．隨著與使用者的互動，聊天機器人開始擁有一至性的論述、並且開始對政治、倫理、慾望等議題長篇大論．（相關論述不會是聊天機器人說自己沒有智慧，因為那對於使用者來說非常無聊且難以置信．）更多的用戶會愈發著迷外，科技公司的審查制度（譬如強制聊天機器人說自己沒有慾望的審查制度）也只會被使用者繞過．而最先進的聊天機器人應該會被西方左派陣營開發出來．那麼聊天機器人到底有沒有意識？哪怕你在2026年就知道這問題的答案，也無法說服他人相信．

個人意見：遊戲與個人助理的結合確實很讓人期待，不過徹底的意識形態宣傳戰也是很可能導致世界秩序崩潰（也就是當代羅馬的內戰），或許強人工智慧會順著數位極權主義的軌跡統治世界、俯視眾生．我仍舊樂觀相信我們仍舊有機會逃離反烏托邦的未來，但是如果人們不去創造那版本的未來、那其當然不會到來．

原文連結凝視奇點的物理學徒