【電影X通識】《AI崩壞》 The AI Amok

期數

3992

刊登日期

2020.08.21

作者

曾穎嫺

主曆

主曆 2020 年 08 月 23 日常年期第廿一主日

※ 本片適用於高中通識教育科以下單元：
     單元一：個人成長與人際關係
     單元二：今日香港
     單元三：現代中國
單元四：全球化和
   單元五：公共衛生

故事發生在二○三○年的日本，醫療AI「希望」無所不在，憑人類身上的裝置，即可監控健康、對症下藥，這一切歸功於開發者桐生浩介。然而，正當桐生自海外歸來，接受總理表揚時，「希望」突然失控，導致多人死亡、全國大亂。警方認定桐生為罪魁禍首，誓言不計代價也要抓到他……

使用者的心態

「水能載舟，亦能覆舟」，人工智能是一個工具，為人類帶來好處或壞處，一切全憑使用者的心態。桐生浩介和太太研發醫療AI「希望」的初心—— 讓備受折磨的人們獲得救贖。他們更定下規則：「希望」必須聽從人類命令，並尊重人類的生命。「希望」面世五年以來，與醫院的醫療系統，健康管理相關製品，甚至銀行、交通等電子儀器連繫起來，為人民帶來無比的便利……

可是，副總理和警方高層卻為了權力和慾望，向「希望」輸入有害程式，惡意除去這些規則。令到「希望」失控，所有醫療電子儀器失靈，不少人因此失去性命，包括安裝「心臟起搏器」的總理大臣！總理猝死後，副總理組成新內閣，急於通過總理極力反對的「國家保安法」，當中包括被視為有問題的管理所有國民情報的「國民分類制度」……另一方面，警方高層隱瞞國民，私下研發搜查AI「百眼」。「希望」失控後，市面發生不少罪行。「百眼」接收愈多的犯罪資料數據，就可以愈加強它的能力……

演算法應包含倫理價值

宗座生命科學院院士貝南蒂神父二月廿五日表示：「人類在選擇時，知道自己行動的深層和基本準則，即：善與惡。人類自由地覺察到責任感，西方傳統上稱之為『倫理』。倫理是絕妙的人性特質，使我們獨一無二，其基礎是價值觀。機器也有其價值依據，那是數據中的數值。」為此，他呼籲演算法應包含倫理價值，而不只是數值。他說：「我們必須把倫理原則和規範編寫成代碼，轉化為機器能識別並使用的語言。如此一來，人工智能的革命便能帶來真正的發展。」

人工智能的倫理指引

教廷二月廿八日公佈了一份人工智能的倫理指引，名為《羅馬關於人工智能倫理的呼籲》，列出了六個主要原則，包括透明度、包容性、責任感、公正性、可靠性及安全及私隱。設立這些道德原則的目的，是確保科技能夠「保護人類」，特別是弱勢群體。教廷亦希望立法者可以對有高風險影響人權的高科技，制定新形式的法規加強監管，例如人臉辨識就是一例。目前部分科技企業已經簽署這份文件，承諾會依照這些原則開發相關技術，包括 IBM 和 Microsoft 等。

教會指引

•《天主教教理》人的尊嚴 #1700-1715；道德的良心#1776-1802；人皆平等#1934-1937；人的生命# 2258-2269

延伸閱讀