20150814

Ex Machina 說到人之為人


內含劇透,慎入】

從香港飛回三藩市的航機上,我只看了一齣電影,就是 2015年的科幻片 Ex Machina;全片充滿張力,戲味十足,Domhnall Gleeson 和 Oscar Isaac 都演技出色(扮演機械人的 Alicia Vikander 反而只是中規中矩),加上可堪思考的地方甚多,看罷,我便決定回家後再看一次。



重看之後,我的觀後感有點不同了,第二次看後的想法比第一次的豐富。兩次我都認為這電影是關於人多過關於人工智能,不同的是,第一次我認為重點是人與人之間的權力和操控(manipulation)關係:科技天才兼富可敵國的大老闆 Nathan 一直操控著機械人 Ava 和小員工兼實驗助手 Caleb,只視他們為達到他目的之工具;Caleb 最後反過來操控了 Nathan,令 Nathan 棋差一著;而 Ava 透過操控 Caleb 間接操控了 Nathan,令自己擺脫了 Nathan 的操控,反客為主,得到自由。

有權力的人可以操控別人,能操控人者則會得到權力;權力與操控的關係,不是單向的,而是變化萬端的互動 --- 人與人之間相處的一大難題,正在於此。

第二次看過這電影後,我沒有否定它表達了「人與人之間的權力和操控關係」,可是,我認為這電影更中心的主題是「人之為人,取決於甚麼?」('What is it to be a person?')留意:這裏說的「人」,英文的翻譯是 'person' ,而不是 'human being'。這個意義下的「人」,不一定是人類的一份子(a human being),例如某些宗教信仰的人格神(a personal god);反過來說,作為人類的一份子,並不能保證一定是人(a person),例如一個完全喪失了互動和溝通能力的植物人 ---  他仍然是一個 human being,卻未必是一個 person。

Ava 通過了最嚴格的圖靈測試(Turing Test),不但能令跟她對話的人分辨不出她是機械人,不但能令對方眼見她的機械身體而仍然「以人相待」,還能夠欺騙和操控對方,以達致自己的目的(i.e. 得到自由)。Ava 肯定是人工智能,但她是人(a person)嗎?觀眾也許會認為她不是,因為她的行徑「不是人」---  忘恩負義,在利用 Caleb 的感情和善意、得到了自由之後,她便棄 Caleb 如敝屐,將他鎖在研究設施裏,明知這樣一來,Caleb 只有死路一條。

然而,我們不難想像,有些壞人會做出 Ava 對 Caleb 所做的事,但這些壞人好歹也是人(persons)啊!這裏,我們可以劃分出 being immoral(不道德)和 being amoral(非道德)的分別:Ava 之可能不是人,是因為她的行徑只是 amoral,而不是 immoral --- 連真正的壞人也做不成。如果 Ava 在與人相處之時,只懂得做利弊計算(cost-benefit analysis),那麼,無論她的計算多麼精巧準確,她也不過是人工智能,而不是一個真真正正的人。


13 則留言:

  1. Ex Machina 係取自拉丁句 Deus Ex Machina,但冇咗頭一字 Deus,[神]之意思。我就話此片中心精粹,就在此 omission。嘿嘿。

    回覆刪除
  2. Ava那個年代的機械人雖然已有很高的AI以及外表與(生物)人高度相似,但始終還是欠缺一點「人性」。若科技繼續發展去到一個地步可能終會令Ava所欠缺的那點人性也能夠「重現」在其身上,那人類社會與機械人社會可能會並存於世上?

    回覆刪除
    回覆
    1. 講起人性想起以往聽過朋友講他們家的貓和狗的一件真事:他們家養了一隻貓和一隻狗,兩只小動物平時都經常爭吃的又爭地方睡覺,總之為各自的利益經常都爭。
      有一天,那只貓從街上回來,一條腿斷了,身體也傷得很厲害,回到家後就睡在了狗窩上。這次那隻狗不但沒有像往常那樣去趕走隻貓,反而用口帶去很多碎布圍在貓的身上,好像很關心和想幫貓度過難關。雖然狗與貓是兩隻不同種的動物,那隻狗也沒有人教它那樣做的,但它也竟然那麼「有人性」。
      Ava如果AI真是很高的話,也應該會有多少「人性」吧?

      刪除
    2. 人類創造了有自我增強智慧的機械人(AI),人類會容忍與此等 AI 共存,living as equals?

      (基督教的)神創造了人類,請參教 The Tower of Babel 故事看結果。神並要我們人類澈底的服從崇敬(否則地獄),當人類懂了創造成為了神,那人類若能寬容,有量度得過創造人的始祖神,那。。。嘿嘿,有意思。

      刪除
  3. (所有)宗教說某神創造了人類。。。當我們人類成了創造之神,我們的心態,期望,要求?得不到,我們毀滅?古神用洪水,我們用 neutron bomb?

    回覆刪除
  4. 聖經是神的角度而寫,那人的角度:

    阿當夏娃厭倦了樂園,他們要的是自由去無限制探索一切,而他們懷疑,禁果是一個 portal,可以帶領他們經歷另一境域。阿蛇剛好在此時中抽獎的頭獎,獎品是親見神兼參觀樂園。蛇君在樂園被神刻意安排認識阿當夏娃,(下刪三萬字)。。。三人其後密謀闖出禁果之門想離開樂園。。。

    回覆刪除
  5. Horai,
    機械人是存在於科學現實世界裡的實體,而神則只是存在於精神/信仰或迷信的虛擬世界裡。
    雖然人類歷史上有Deus Ex Machina這樣神話故事式的表現手法,但實際上機械人與神是完全無關,完全是兩回事,所以電影把「神」字去掉是因為電影描述的是有可能在未來實現世界中出現的科幻故事而不是神鬼故事。

    把現實世界科學裡的機械人與虛擬/精神世界裡的神相提並論是混淆了兩個不同的世界。科幻故事不等於/不是神鬼故事。

    回覆刪除
    回覆
    1. 咁如果此片目的除了純娛樂性外還要發人深省,那宗教是全球一半人口(大概啦)所依,你閣下沒宗教信仰不等於全世界沒有,那若不以神為主題,何必改個如此昭然若揭片名?Technogenesis 片名咪幾好。。。

      不過拗此無謂。AI 假如似人類(人性),那一定有無賴(renegade),結局是戰爭。假如 AI 有 logic loop 可以察覺及自我刪除壞傾向,那結局是 AI 一定要毀滅人類以自保,因為人類不會是可靠之盟友。你要拗人類到時會進化到沒有敗類,那大家現在還有什麼顧慮?天堂啦!

      刪除
    2. 我諗不少無神論者(例如愛因斯坦等等)傾向於相信人類是[被創造]。。。死喇,大家咪再諗喇,[匿名]話你一諗就做人契弟,做全球人契弟好唔得閒。。。

      刪除
    3. Horai你知亂咁話人諗乜其實與契弟無異就得啦...哈哈

      刪除
    4. Horai你睇到邊度有話「人類到時會進化到沒有敗類」呀?你黐咗線呀?

      刪除
  6. 現在人類已能夠造出一些簡單的人體器官,隨著高科技的發展,人會逐漸造出各種人體的器官而無需要等待死人的器官來移植。雖然今天的人工心肺機是一個龐然大物,無法置於人體之內。但曾幾何時當年的真空管電腦也是佔用了幾個大房間之巨,而今天已缩小到一塊很小的晶片上並且功能也遠勝當年的龐然大物。
    所以未來人能夠造出不但外表與人高度相似且思維也極接近人的機械人並非是無可能的事。
    雖然電影故事裡的Ava還欠缺一些人性,但當科技再進步的時候,有人性的機械人也難保不會出現。

    回覆刪除
  7. //如果 Ava 在與人[or other AI robots/machines]相處之時,只懂得做利弊計算(cost-benefit analysis),那麼,無論她的計算多麼精巧準確,她也不過是人工智能,而不是一個真真正正的人。//
    My question is: What is more advanced? AI robots like Ava or persons like us?
    A lesser question: Can Ava produce other AI robots like itself?
    --zpdrmn

    回覆刪除