一個阿木的 ChatGPT 追劇讀書會

本來沒怎麼在追 ChatGPT 的發展劇，但近期跟小孩的對話讓我覺得，還是在他們學會打字之前不時關注一下。

最近小孩會問 siri，「你是誰？」

「你認識 OK Google 嗎？」「你認識天貓精靈嗎？」（！）

他們也會問 siri，「大爆炸是怎麼來的？水是怎麼來的？」只要是書上看到心生疑惑的事情，全部都問問看。如果 ChatGPT 有語音外掛，應該已經被直接問爆。

前陣子跟一些朋友開始討論 AI 生成內容，也跟我家的 AI 阿宅創業家 CL 亂聊，這篇算是整理一下對話紀錄和各種資訊的自我懶人包。不知不覺記多了，分享一下。

關於小孩教育

提問：AI 對個位數年齡小孩教育會有什麼？
CL：會有很多 augmented tool 吧。

阿宅講話都很省字….。

Augmented 是擴增，AR 是擴增實境，就技術宅來說，AI 可算是一種擴增腦力的工具。

意即，現在的小孩日後學習過程，會開始有各種 augmented tools 擴增工具可以使用。影響好或不好都已不可逆，應多理解工具的運作原理。

台大李宏毅老師做的科普影片蠻清楚 [1]，聊天模組始於文字接龍的能力。聊天機器人就是文字接龍的社會化過程。

另外一位阿宅老友 Freedom 也提供了另一條追劇故事線，目前研究開發者正努力教 AI 學數學 [2]。他們得先克服把自然語言的數學題目翻譯成 formal code 來讓 AI 進行運算。為什麼算數學是個難題？因為他們認為，數學是開發人工智能推理能力的完美實踐場所，因為數學可以說是最困難的推理任務之一。

關於 AI 像人

提問：聊天程式為何像人？
CL：ChatGPT 聊天看起來有脈絡是個假象，實際上每段對話之間都是獨立發生沒有關聯的。它做了兩件事製造假象。其一，在每一次對話都先簡單總結上一段。其二，它在下一段會再做一次漸進式總結 (incremental summary) ，這樣對話就會好像有點延續感。但不是真的延續，因為以現在 ChatGPT 3.5 限制只能有 4000 字的長度，所有對話都得濃縮在這個長度以內，才能像是有邏輯地說話。

這種技術造成了機器有人類特質的假象，但弄假成真的那條界線在哪？

有史丹佛心理學家日前公布了對 ChatGPT 做的 Theory of Mind 實驗 [3]，ChatGPT 3.5 通過了心智理論的測驗，類同人類九歲的測驗程度。這跟先前跟 bing 會示愛和爆粗口似乎有異曲同工之妙，「很像人的機器」到底有沒有心智算不算靈魂，這題應該會一直困擾著人類。

要往哪裡去？

無論如何，AI 只會越來越強，推特上流傳一張圖，說 ChatGPT-4 的參數將是 3 的 500 倍，與人類腦的突觸數相當。但 OpenAI 的三十八歲 CEO Sam Altman 駁斥此說法，還說 ChatGPT-4 會讓大家失望，但又留下一句耐人尋味的話：「人們想要失望，我們就會讓他們失望。」不是很確定這意思，但他似乎很懂大家既期待又怕人類受傷害。

但看起來 Altman 和 OpenAI 視野不只在做無敵厲害文字接龍，他曾在訪談中說，OpenAI「正嘗試建立一種智能，它在各方面都比人類更聰明、更有能力。我們嘗試利用這種智能解決世界上最大的問題。我們試圖利用這種智能，因為我們將擁有如此強大的人工智能，我們將使數百億、數萬億美元的新企業得以實現，而且有一天，我認為我們將建造人類的後代，送他們上宇宙殖民地。」[4]（這段是丟給 ChatGPT 翻的）

誰能上太空，誰要殺豬公，這似乎又開啟了另一個問題。

「什麼工作被取代」這類現在的熱門討論，到下下一代下下下一代，會不會越來越像艾西莫夫的世界，「誰會被留在擁擠的地球？」

扯遠了，我們還不會遇到。

我們先得面對 AI 可能產生的錯誤資訊、釣魚信、惡意軟體等，Google 示警為 「AI 幻覺」（AI Hallucination）的認知現象。更別說 Amazon 已經出現了兩百本與 ChatGPT 合著的出版物，直接進入內容市場。

關於 AI 生成內容是被壓縮失真？

人文方面則有批判聲音，除了 Noam Chomsky 指 ChatGPT 是「高科技抄襲」(High-Tech Plagiarism)，小說家 Ted Chiang 姜峯楠前陣子的文章《ChatGPT is a Blurry JPG of the Web》也提出了批評與擔憂的觀點。

姜峯楠的文章主要是把原始版本和壓縮版本比喻，他文章尾巴的一段話很有啟發：「讓學生寫文章不僅僅是測試他們對素材的掌握程度的一種方式，它還能讓他們獲得表達自己想法的經驗。如果學生從來沒有寫過我們都讀過的文章，他們就永遠不會獲得寫我們從未讀過的東西所需的技能。」[5]

人腦的運作歷程，在作家眼中，是重要的。

最近正好在狂讀他的小說，立刻成為我最愛作家之列。可能因為在非常科幻且有技術根基的敘事中，他總能把人性用驚奇的方式緩緩流溢。

就像我花時間寫了這篇文，可能也是為了在寫字的經驗中，獲得思考的過程。

很有人性與哲思，但這篇文章才幾天時間，大家又繼續被各種新進展繼續衝擊。

總之，人類可能再也難以分辨智能 (intelligence) 和智能的假象 (the illusion of intelligence) 的差別。這對要跟 ChatGPT 一起長大的一代，特別是他們的父母，實在會是一個有點期待又有點抖的挑戰。

然後呢？關於這一大題，需要了解什麼？擔心什麼？還是要做什麼？

很多文章的確都提到倫理。去問 ChatGPT，它給出這樣的回答：

1. 建立 AI 倫理
2. 提倡透明的重要
3. 鼓勵多元
4. 重視人類的監督
5. 促進 AI 教育以及意識

嗯哼，很像是開會第一次動腦會議會得到的初步便利貼。卻也隱含了許多人類社群可做的實務工作，也算是可以跟小孩開始聊機器人的另一種基礎談資。

在已被各種迅速發展沖刷已昏的狀況下，就先 End 在這。

有空再下一回合的補追劇心得文。

— —

[1]
李宏毅 ChatGPT (可能)是怎麼煉成的 — GPT 社會化的過程https://www.youtube.com/watch?v=e0aKI2GGZNg

[2]
To Teach Computers Math, Researchers Merge AI Approaches

[3] Stanford Theory of Mind（ToM) 實驗https://twitter.com/michalkosinski/status/1627480885296795649
https://arxiv.org/abs/2302.02083

[4]
The Company Behind ChatGPT

[5]
Ted Chiang
ChatGPT Is a Blurry JPEG of the Web

蕭上農翻譯 Ted Chiang 文
https://foxhsiao.medium.com/chatgpt-是網路上的一個模糊的jpeg文件-aaee3723db1f