危機意識

 

Geoffrey Hinton 是人工智能研究的先驅，對這種嶄新科技的認識當然遠勝一般人。他認為 AI 最終毀滅人類的可能性，大概有百分之十至二十。這不是甚麼精密計算的結果，他自己也承認只是 gut feeling；問題是，即使只是百分之十，已經很可怕。假如主治醫生告訴你，你明天做的手術，死亡機會是百分之十，我相信你不會聳聳肩說：「百分之十，機會不高呀，我放心了！」

Bill Gates 一向比 Hinton 樂觀得多，但最近談到 AI，語氣也相當嚴重。他認為 AI 帶來的社會轉變會極其劇烈，很多工作將永久消失，AI 亦可能被用於網絡破壞和生化恐怖襲擊；更長遠的問題是，AI 已經在很多方面比人類聰明得多，不久的將來必然更甚，我們很可能控制不了 AI，到時將會發生甚麼？只能用「不堪設想」來形容。

然而，我接觸到的絕大多數人，對 AI 都好像沒有甚麼危機意識；大家仍然如常生活，只是多了 AI 這個高效有用的高科技工具幫助解決問題。這當然沒有甚麼不對，我自己也經常使用 AI，依然每天讀書、寫論文、煮飯、彈琴，沒有因為 AI 可能毀滅人類便生活大亂、惶惶不可終日。可是，正常生活是一回事，完全沒有危機意識是另一回事。 我並不相信 AI 一定會毀滅人類文明，甚至不認為這是最可能的結果；但如果有人說「AI 毀滅人類文明」只是科幻小說情節，我會覺得他比我樂觀得太多了，而且樂觀得沒有甚麼根據。

真的無從估計十年後、甚至只是五年後的世界會是怎樣。「不知道未來」本來是廢話，誰知道未來？可是，我這裏說的是「無從估計」。二十年前，我不知道二十年後大學教育會是怎樣，卻有理由相信仍然有大學、有教授、有學生、有課堂、有論文、有期刊。現在連這些都不敢肯定。

我比較切身感受到的危機，不是籠統地關於人類文明，而是具體地關於哲學研究。現在用 AI 寫一篇看來頭頭是道的哲學文章已經不難。再過幾年會怎樣？一個人想到一個題目，叫 AI 找文獻、整理論證、提出反駁、修改文字，一兩天便「寫」成一篇論文，然後投稿。假如很多人都這樣做，期刊收到的論文數量必然大增。本來哲學期刊已經很難找到評審員，到時評審員收到論文，又交給 AI 閱讀，叫 AI 提出批評或建議，甚至寫好評審報告。於是 AI 寫論文，AI 評論文。這並非完全是假想，有學術期刊的數據顯示，AI 被廣泛使用後，投稿量大增，而高度 AI 生成的稿件和評審亦隨之增加。 哲學期刊的情況現在也許還沒有嚴重到這個程度，但我很難相信哲學會是例外。如果有一天，一篇主要由 AI 寫成的哲學論文，由另一個 AI 評審，然後刊登出來，再給第三個 AI 閱讀和引用，那麼這個制度究竟還有甚麼意思？

寫到這裏，我不由得想表達一個念頭。假如 AI 最後真的毀滅人類文明，而世界末日在我有生之年發生，那也不完全是壞事。至少我和老婆可以真正做到同年同月同日死，誰也不用經歷對方先離世的悲痛。這個想法當然是自私的，不過，對我來說卻很自然，我不介意承認。

說實話，最值得擔憂的不是我們這一輩，而是現在的年輕人。我這一代人的大半生，世界雖然不斷改變，基本規則總算穩定，今天的年輕人卻連這種基本的穩定也沒有。AI 不會因為年輕人不知何去何從而停止發展。美國不發展，中國會發展；Google 不發展，OpenAI 會發展；這家公司謹慎一點，另一家公司便可能搶先。人人都知道車子開得太快有危險，卻又沒有人敢首先踩煞車。以前說年輕人「前途無限」，意思是前面有無限可能，是一句祝福。現在再說這四個字，我卻覺得有另一個意思：他們的前途，真的是一個巨大的未知數。