歷史學家警示AI將主導宗教、法律及就業領域

此事可能在未來兩年或十年內發生，但著名歷史學家尤瓦爾·諾亞·赫拉利(Yuval Noah Harari)認為，人工智能已如此先進且深入社會，因此任何由文字構成的存在——例如基督教和猶太教等宗教——都將被人工智能所取代。

在周二瑞士達沃斯世界經濟論壇上，赫拉利向各國領導人發出嚴峻警告：不應將人工智能視為工具，而應視其為能創造新事物、作出決策的思考主體。未來數年，人類很可能因此陷入身份認同危機。

「我們總以為這些東西只是工具。但如果它們能思考，它們就是行動主體，」劍橋大學生存風險研究中心(Center for the Study of Existential Risk)研究員赫拉利警告道。他同時擔任耶路撒冷希伯來大學歷史系講師，並共同創立了智慧之船(Sapienship)公司。

「過去，所有詞彙、所有語言思維都源於人類頭腦——要麼是我自己思考產生的，要麼是從他人那裡習得的。但很快，我們腦海中的多數詞彙都將源自機器」。

他接着說道： 「今天我剛聽說人工智能自創了一個新詞來描述人類——他們稱我們為『觀察者』。……人工智能很快將成為我們腦海中絕大多數詞彙的源頭。它們將通過組合詞彙、符號、圖像及其他語言符號創造出全新組合，批量產出思想。」

在題為「AI 與人類的真實對話」(An Honest Conversation on AI and Humanity)的論壇環節中，赫拉利通過簡短演講及討論指出，由於人工智具備詞彙處理、創造與操控能力，人類的身份將取決於社會對非語言情感與智慧的重視程度。該環節由英國神經科學家、牛津大學副校長艾琳·特雷西(Irene Tracey)主持。

赫拉利指出：「人類在世界是否仍有立足之地，取決於我們如何定位非語言情感，以及能否將無法言傳的智慧具象化。若我們繼續以語言思維能力自我定義，那人類的身份認同終將崩塌。」

演講伊始，赫拉利闡明了為何不應將人工智能視為工具。

「當今每位領導者都必須回答關於人工智能的一個核心問題。但要理解這個問題，我們首先需要釐清人工智能的本質及其能力邊界。最關鍵的是認識到：人工智能絕非普通工具，而是具有能動性的主體」。

「它能自主學習、自我進化並獨立決策。刀是工具——你可以用它切沙拉或殺人，但如何使用取決於你。而人工智能是把能自主決定切沙拉還是行兇的刀」。

赫拉利指出，若將「思考」定義為「對詞語及其他語言符號進行排序」，那麼人工智能同樣具備說謊、操縱和思考的能力。

「如果思考真的意味着將詞語和其他語言符號進行排序，那麼人工智能的思考能力早已遠超絕大多數人類。人工智能完全能夠構造出『人工智能思考，故人工智能存在』這樣的句子，」他解釋道，並指出人工智能運用語言進行思考的能力將使其接管某些宗教和法律體系。

「法律由文字構成，AI可構建法律體系；書籍不過是文字組合，AI可創作書籍；宗教建立在文字之上，AI可創建宗教。基於經典的宗教如伊斯蘭教、基督教或猶太教尤其如此」。

他進一步提出：「猶太教自稱是經書的宗教，其最高權威並非來自人類，而是經書中的文字。人類在猶太教中得到的權威並非源於自身經驗，而僅因所學習的經書中的文字。如今，沒有任何人類能讀懂並記住所有猶太經書中的文字，但人工智能卻能輕鬆做到。當聖經的最高權威者成為人工智能時，以經書為主導的宗教將何去何從？」

赫拉利指出，當世界正圍繞移民問題展開激烈討論時，各國將因人工智能的進步而很快會面臨嚴重的身份認同危機和移民危機。

「這次的移民不會是乘坐破舊船隻、沒有簽證或試圖在深夜越境的人類，而是數百萬的人工智能——它們能寫出比我們更動人的情詩，能編織比我們更精妙的謊言，還能以光速穿梭而無需任何簽證，」哈拉里如此論證道。

「如同人類移民，這些AI移民將帶來多重效益。我們將擁有協助醫療體系的AI醫生、助力教育系統的AI教師，甚至能阻止非法人類移民的AI邊防人員。但AI移民同樣會引發問題，」他繼續闡述道。

他解釋稱，許多國家公民常擔憂移民會搶奪工作崗位、改變文化傳統或存在政治不忠誠等問題。

「我不確定人類移民是否都如此，但人工智能移民絕對會如此。它們將取代大量人類工作崗位，徹底改變每個國家的文化，甚至重塑宗教信仰與愛情觀，」他如是說。

他表示，在全球各地的司法管轄區，公司、河流甚至神靈都被承認為法人。他質疑人工智能是否也會隨着時間推移獲得同樣的地位。

「我們是否願意允許這種情況發生？貴國會承認人工智能是法人嗎？如果其他國家這樣做呢？假設貴國不願承認人工智能具有人格，美國早以放鬆人工智能監管、放開市場為名，賦予數百萬人工智能法律認可和法人資格，讓它們開始運營數百萬家新公司」。

「假設某些人工智能信徒創立新宗教，獲得數百萬信眾追隨呢？這聽起來未必荒謬，畢竟歷史上幾乎所有宗教都宣稱人是由非人類智能所創造的，」他繼續說道。「那麼，貴國是否會向這個新的人工智能教派及其人工智能牧師和傳教士賦予宗教自由的權利」？

赫拉利斷言，過去十年間人工智能早已作為功能性主體運作。他建議各國應立即採取行動規範人工智能的影響力。

「貴國是否允許人工智能主體開設社交媒體賬號，在臉書、抖音等平台享有言論自由並與兒童互動？當然，這個問題本該在十年前就提出。在社交媒體領域，人工智能機器人作為功能性主體運作至少已有十年。若認為人工智能不應在社交媒體上被視為主體，十年前就該採取行動了」。

「十年之後，當人工智能是否應在金融市場、法庭和教會中享有主體地位的問題擺在你面前時，就為時已晚了。屆時，這個決定早已由他人代你做出。若想影響人類的未來走向，你必須當下就做出抉擇」。