历史学家警示AI将主导宗教、法律及就业领域

此事可能在未来两年或十年内发生，但著名历史学家尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)认为，人工智能已如此先进且深入社会，因此任何由文字构成的存在——例如基督教和犹太教等宗教——都将被人工智能所取代。

在周二瑞士达沃斯世界经济论坛上，赫拉利向各国领导人发出严峻警告：不应将人工智能视为工具，而应视其为能创造新事物、作出决策的思考主体。未来数年，人类很可能因此陷入身份认同危机。

“我们总以为这些东西只是工具。但如果它们能思考，它们就是行动主体，”剑桥大学生存风险研究中心(Center for the Study of Existential Risk)研究员赫拉利警告道。他同时担任耶路撒冷希伯来大学历史系讲师，并共同创立了智慧之船(Sapienship)公司。

“过去，所有词汇、所有语言思维都源于人类头脑——要么是我自己思考产生的，要么是从他人那里习得的。但很快，我们脑海中的多数词汇都将源自机器”。

他接着说道： “今天我刚听说人工智能自创了一个新词来描述人类——他们称我们为‘观察者’。……人工智能很快将成为我们脑海中绝大多数词汇的源头。它们将通过组合词汇、符号、图像及其他语言符号创造出全新组合，批量产出思想。”

在题为“AI 与人类的真实对话”(An Honest Conversation on AI and Humanity)的论坛环节中，赫拉利通过简短演讲及讨论指出，由于人工智具备词汇处理、创造与操控能力，人类的身份将取决于社会对非语言情感与智慧的重视程度。该环节由英国神经科学家、牛津大学副校长艾琳·特雷西(Irene Tracey)主持。

赫拉利指出：“人类在世界是否仍有立足之地，取决于我们如何定位非语言情感，以及能否将无法言传的智慧具象化。若我们继续以语言思维能力自我定义，那人类的身份认同终将崩塌。”

演讲伊始，赫拉利阐明了为何不应将人工智能视为工具。

“当今每位领导者都必须回答关于人工智能的一个核心问题。但要理解这个问题，我们首先需要厘清人工智能的本质及其能力边界。最关键的是认识到：人工智能绝非普通工具，而是具有能动性的主体”。

“它能自主学习、自我进化并独立决策。刀是工具——你可以用它切沙拉或杀人，但如何使用取决于你。而人工智能是把能自主决定切沙拉还是行凶的刀”。

赫拉利指出，若将“思考”定义为“对词语及其他语言符号进行排序”，那么人工智能同样具备说谎、操纵和思考的能力。

“如果思考真的意味着将词语和其他语言符号进行排序，那么人工智能的思考能力早已远超绝大多数人类。人工智能完全能够构造出‘人工智能思考，故人工智能存在’这样的句子，”他解释道，并指出人工智能运用语言进行思考的能力将使其接管某些宗教和法律体系。

“法律由文字构成，AI可构建法律体系；书籍不过是文字组合，AI可创作书籍；宗教建立在文字之上，AI可创建宗教。基于经典的宗教如伊斯兰教、基督教或犹太教尤其如此”。

他进一步提出：“犹太教自称是经书的宗教，其最高权威并非来自人类，而是经书中的文字。人类在犹太教中得到的权威并非源于自身经验，而仅因所学习的经书中的文字。如今，没有任何人类能读懂并记住所有犹太经书中的文字，但人工智能却能轻松做到。当圣经的最高权威者成为人工智能时，以经书为主导的宗教将何去何从？”

赫拉利指出，当世界正围绕移民问题展开激烈讨论时，各国将因人工智能的进步而很快会面临严重的身份认同危机和移民危机。

“这次的移民不会是乘坐破旧船只、没有签证或试图在深夜越境的人类，而是数百万的人工智能——它们能写出比我们更动人的情诗，能编织比我们更精妙的谎言，还能以光速穿梭而无需任何签证，”哈拉里如此论证道。

“如同人类移民，这些AI移民将带来多重效益。我们将拥有协助医疗体系的AI医生、助力教育系统的AI教师，甚至能阻止非法人类移民的AI边防人员。但AI移民同样会引发问题，”他继续阐述道。

他解释称，许多国家公民常担忧移民会抢夺工作岗位、改变文化传统或存在政治不忠诚等问题。

“我不确定人类移民是否都如此，但人工智能移民绝对会如此。它们将取代大量人类工作岗位，彻底改变每个国家的文化，甚至重塑宗教信仰与爱情观，”他如是说。

他表示，在全球各地的司法管辖区，公司、河流甚至神灵都被承认为法人。他质疑人工智能是否也会随着时间推移获得同样的地位。

“我们是否愿意允许这种情况发生？贵国会承认人工智能是法人吗？如果其他国家这样做呢？假设贵国不愿承认人工智能具有人格，美国早以放松人工智能监管、放开市场为名，赋予数百万人工智能法律认可和法人资格，让它们开始运营数百万家新公司”。

“假设某些人工智能信徒创立新宗教，获得数百万信众追随呢？这听起来未必荒谬，毕竟历史上几乎所有宗教都宣称人是由非人类智能所创造的，”他继续说道。“那么，贵国是否会向这个新的人工智能教派及其人工智能牧师和传教士赋予宗教自由的权利”？

赫拉利断言，过去十年间人工智能早已作为功能性主体运作。他建议各国应立即采取行动规范人工智能的影响力。

“贵国是否允许人工智能主体开设社交媒体账号，在脸书、抖音等平台享有言论自由并与儿童互动？当然，这个问题本该在十年前就提出。在社交媒体领域，人工智能机器人作为功能性主体运作至少已有十年。若认为人工智能不应在社交媒体上被视为主体，十年前就该采取行动了”。

“十年之后，当人工智能是否应在金融市场、法庭和教会中享有主体地位的问题摆在你面前时，就为时已晚了。届时，这个决定早已由他人代你做出。若想影响人类的未来走向，你必须当下就做出抉择”。