對生成式AI發展的反思

去年底「生成式AI」橫空出世，驚濤拍岸：讓許多人驚奇，也讓更多人驚懼，因為科技發展的潘多拉之盒，終於被打開了！

科技發展跨入這一深水區後，最戲劇性的是谷歌負責「人工智能深度學習」的副總裁辛頓(Geoffrey Hinton)，日前宣布辭職以明志的事件：他不只對生成式AI發展的可能失控表達強烈憂慮，甚至還對自己過去曾參與這方面研究的事實，做出了幾近「放下屠刀」式的懺悔。

面對這一「狼來了」的警訊，包括馬斯克在內許多大神級科技領袖則出面疾呼：生成式AI的研發應暫停6個月，等到人類想清楚該如何應付這個具有致命吸引力的潘多拉魔獸後再作打算。這一呼籲也獲得了全球科技圈與人文社會圈眾多精英的廣泛響應。

人工智能非屬我的專業，但因長期關注決策行為與思考模式等議題，所以對於「越來越像人」的「機器人科技」的發展，也確有許多心有戚戚焉的警惕。

AI研究應是濫觴於1940年代，MIT教授維納(Nobert Wiener)所提出的仿生控制理論(cybernetics) — 這是中國大陸所稱「老三論」中的控制論。80多年來AI的發展歷程屢仆屢起，直到近年走上以自然語言作為人機介面的生成式AI（GPT, generative pre-trained transformer）的應用之路後，才驟然闖入了人類日常生活與工作的領域，許多人也因此預期它將從此對人類的傳統三觀（世界觀、人生觀、價值觀）產生難以估計的影響。

近年科技產品對人類文明具有形塑典範效應的著例是iPhone：它從2007年橫空出世之後，迅即把4到84歲的人類通通都一起突變成了「滑世代」與「低頭族」。而生成式AI所將帶來的人類文明典範變遷，許多人認為會遠比iPhone所形塑的人類行為新模式，更為深層、也將更具有顛覆性。

我自己的學術研究與AI發展最接近的一次，是投入1980年代管理領域decision support system（DSS，決策輔助系統）的教研潮流。當時PC雖萌芽未久，但就有人認爲可在其中建立「資料庫（存放解題所需的數據）」、「模型庫（存放解題有關的演算法）」，再加上「人機介面」，使用者就可利用「如果…會怎樣（what-if）」的詢答方式，借助PC記憶與運算能力的輔助，快速獲得問題的答案。在這一股教研潮中，有人還進一步將歸納決策規則（rule）所建構的「模型庫」發展成所謂的「專家系統，expert system」，來反映它取代人類專家的可能性。

但是，這股教研潮不久就偃旗息鼓，主要原因有二：(1) 當時的電腦軟/硬體科技，不論是PC或主-從（client-server）系統的儲存與演算能力都還遠遠不足，更何況大數據的大環境也不存在，所以DSS中資料庫與模式庫的功能都只還是理論上的理想，並沒有客觀的實現條件。(2) 更根本的是，當時DSS研究者對人類決策行為的許多細節，例如對佔實際決策問題比例最大的「非結構化，non-structured」或「無法程式化，non-programmable」等問題的真實發生過程，瞭解還非常有限（這使所謂的「模型庫」功能極度貧乏）。於是在對人類決策本身都還沒搞清楚的情形下，就想利用電腦去輔助人腦做決策，是顯然的本末倒置與虛而不實。

不過，專家系統的概念後來仍然成功導入「電腦輔助設計以及製造，CAD/CAM」等這些高度「結構化、可程式化」的應用領域；例如，近年關燈無人工廠的實現可說是這種「規則基礎人工智能（rule- based AI）」的極致應用。

要理解傳統的「規則基礎AI」與生成式AI的不同，還需從人腦的思考方式下手。

人腦的思考方式一般分為兩類：應考式與辦案式。應考式思考是在已知的封閉性知識世界中去尋找問題的答案，這也是傳統教育與訓練的重點。而辦案式思考則是根據有限的已知訊息，摸石子過河，在開放性的未知世界中探索答案、並驗證答案 — 這是創意、創新工作者的思考模式，也是人類認識未知世界，拓展新知識的思維模式。

雖然傳統以遵守設計者所預設規則來演算的AI，已經可憑藉強大的記憶體與超高速演算能力，輕易擊敗人腦（例如Deep blue可擊敗國際級圍棋高手）；但這終究只發生在封閉性的已知世界中。而生成式AI則根據訊息鋪陳的文意(context)，來猜斷最可能下一句話的方式，來「生成」它對問題的回應；這已屬人類之間對話的語言學機制，而且這種機制還可通過事前訓練，來校準回應的精準度。因此，具備這種能力的AI就有可能去面對資訊不完整的開放性世界，去生成一個邏輯上「言之成理」（但未必「言之有理」）的答案。

有人說，人與電腦的差異在於：人能處理「無中生有」，亦即「從0到1」的問題；而電腦的強項則是處理「從1到n」的問題。但生成式AI面世後，這一說法恐將動搖。換句話說，如果認為直覺、創意，乃至頓悟，甚至通過認知升維湧現出高瞻遠矚的願景（vision）等，是身為萬物之靈的人類所獨具的能力，也是人類智能上所據有的最後一座堡壘的話，那麼生成式AI代表的就可能是「被我們開城迎入山海關的清軍」，或是「被我們自動拆牆、拉入堡壘的特洛伊木馬」。而未來一代代軟硬體技術的更新，也必將使這種今天還「不盡完美」經由創意生成的「人工」智能，日益接近甚至有朝一日超越「原生」的人類智能。

人類該如何因應這一即將發生的新現實？前面提到的谷歌退休副總裁辛頓就提醒大家：這已不是10年、20年後的課題，而是在3年、5年內各行各業就必須面對的燎原之火！

要認識生成式AI究竟打開的是什麼樣的潘多拉之盒，可以從預想即將出現的「教學」場景下手：將來每個學生只要擁有操作生成式AI的能力，就如同身邊養了個具有超能力的「書僮」，這時老師所出「屬於封閉性已知世界的任何問題」都可能再也考不倒學生，因為「智能書僮」會幫主人找到有關問題的「標準答案」。甚至，即使老師出的是「開放性沒有標準答案的問題」，學生仍然可以借助「書僮」去交出一個有模有樣的答案。

面對這種場景，老師就需思考：自己出的題目究竟在考誰？如果答案都是「槍手」寫的，老師就需進一步思考：學生對於交上來的答案內容，究竟真的瞭解了多少？這兩個質疑，不論老師出的題目是屬「封閉性有標準答案的問題」或是「開放性沒有標準答案的問題」都同樣存在。

有鑒於生成式AI流行之後所將產生難以預測與控制的未來，所以有一種反應是「禁止使用」：據說義大利與中國大陸就發佈了這種禁令。但我認為生成式AI是個潘朵拉盒子，一旦打開恐怕就關不起來了，甚至它還會像病毒一樣，以自組織的方式、用各種各樣不同的形式滲入人們日常生活，以及各行各業的活動中。對於這種已經「回不去」的存在，禁用只會導致更難管理的「黑市」現象。所以與其去做這樣那樣的無效禁止或閃躲，還不如採取「直球對決」模式去認清問題本質，然後再來務實因應。

回到教育問題，我認為將來的智能機器人將顛覆人類數千年來的基本「教、學」模式。因為未來的學生身邊有了「智能書僮」這一槍手後，教導學生「如何善用自己的功能強大的隨身書僮，幫忙自己求取新知與解決問題」將會變成未來教學的重點。以這個思維為起點，就會拉出以下的系列問題：

1. 如何教學生「問問題」將會變成未來教育的重中之重。因為「智能書僮」功能上是以被動應答的方式來發揮作用的。
   
   「提問」與「解題」向來就是兩個不同層次的功夫 — 以2C品牌訂定產品規格下單給2B代工生產的過程為例：前者性屬提問者、後者性屬解題者；在收益分配上，前者以價值分潤（囊括8成利益），後者則按成本分潤（爭食剩餘2成利益）。
   
   「問問題」的能力，考驗的其實是人的思考能力（對象包括已知世界與未知世界的問題）。DSS 時代做對的一件事是將人-機互動模式定義為「What-if」的詢答模式，從而反映出由人掌握主動權的人本精神，電腦只扮演輔助人類思考與決策的角色。而最近微軟所推出的生成式AI服務，特別取名為「副駕駛，Co-pilot」，應該也是企圖反映人-機互動過程中，以人為主的角色關係。
   
   教育要以普遍訓練學生的思考能力作為重點，將是遠比傳統教育更吃重的工作。因為這是「教人釣魚」的工作，工作會比傳統「餵人吃魚」的教育方式要複雜與困難得多。
   
   
2. 如何協助學生對「智能書僮」所提供解答具備必需的理解力？又該如何讓學生對所接收資訊的真偽、善惡具備判斷力？就是接下來的第二個問題。
   
   理解力以認知事物間關係的知性能力為主；判斷力則除了涉及認知事物間因緣果關係的事實認知能力外，還涉及事物與人，以及人與人間利害善惡關係的價值取捨（理性判斷能力）。換言之，這其實是進入任何專業之前，所需具備的一種「通識」能力。
   
   相對於上述的「釣魚」能力，這是學生對釣上來的魚，仍需學會「懂得如何吃魚」的本領，唯有這樣才能使學生在未來的教育過程中真正受益並成長。
   
   
3. 傳統教學的教師角色，在時間分配上，向來是「經師」為主、「人師」為輔。但未來教育的「經師」功能，除了必須善用智能書僮作為課堂輔助教具外，更重要的恐怕是如何教導學生去善用智能書僮，去養成自我學習的習慣；當「經師」的部分角色由智能書僮取代後，對於智能書僮難以分擔的「人師」角色，未來的教師該如何加強這方面的功能，並且還須使未來的老師都能普遍勝任這一角色，就成為教育當局從今天開始就應一起思考，並著手做好準備的工作。因為唯有「備變到位」才能「應變有方」。

以上討論的教、學問題，只是一個用來粗淺說明的示例；事實上，生成式AI這一潘多拉魔盒一旦打開，就會無孔不入地滲透到各行各業，以及人類生活的方方面面。我們需要更多的人來一起關注這個問題的發展，並及早思考這個問題的「備變、應變」之道。

本文作者：毛治國
官方網站：https://www.ckmao.pro