最近,马来西亚总理安瓦尔·易卜拉欣 (Anwar Ibrahim) 成为头条新闻,他敦促年轻的 IT 开发人员和技术专业人士将伊斯兰价值观纳入人工智能 (AI) 系统,他认为这将确保人工智能以更加道德和公正的方式为人类服务。自 2022 年底上任以来,安瓦尔将马来西亚人工智能和科技的发展作为该国经济议程的优先事项。在人工智能日益驱动的世界中,将宗教原则嵌入到塑造我们生活的算法中的想法既有趣又令人深感不安。虽然安瓦尔的意图可能是为人工智能创建一个道德指南针,但这一建议提出了一些基本问题,即向人工智能灌输任何形式的宗教或意识形态教条的危险性——尤其是在马来西亚正在慢慢加强对媒体的控制并收紧审查制度的情况下。以社会和谐为借口。
要了解风险,必须首先了解为人工智能注入一套指导原则意味着什么。人工智能,就其最简单的形式而言,是一种工具——一种先进的工具,但仍然是一种工具。人工智能系统,也称为大型语言模型,可以从大量数据中学习,并且可以通过编程来遵循特定的规则集。然而,通过为人工智能提供像伊斯兰教这样的宗教框架,开发人员不仅仅是编写了一套指导方针。他们正在强加一种信仰体系,这种信仰体系可能会产生深远的、甚至无法控制的后果。这是一个值得深入反思的概念,因为它与将政治意识形态嵌入人工智能的危险相似,而这种情况已经出现了令人不安的实现迹象。
宗教人工智能的危险
问题的关键在于宗教教义本质上是主观的,而且常常是矛盾的。例如,伊斯兰教与所有主要宗教一样,在不同文化和思想流派中都有不同的解释。在一个宗教冲突往往是深刻分裂和暴力根源的世界里,人工智能道德指南针的这种变化可能会产生危险和深远的影响。
想想玛格丽特·阿特伍德的反乌托邦小说《使女的故事》中描绘的令人毛骨悚然的场景,其中神权政权基于对《圣经》的扭曲和选择性解释来统治社会。最初试图运用宗教道德的行为变成了压迫的工具,为控制妇女的身体以进行政治征服提供了理由。现在想象一个类似的人工智能系统,它植根于对宗教文本的严格解释。当这样的人工智能负责医疗保健、刑事司法或教育时会发生什么?它能以神圣意志的名义为歧视性做法或道德绝对主义辩护吗?
有人可能会认为人工智能应该遵守某种道德框架来指导其行为。然而,问题仍然存在:这个框架应该是宗教性的吗?道德人工智能优先考虑公平、透明度和问责制,代表了一种更加微妙的方法。然而,人工智能系统不应该充当精神救赎的看门人。
与此同时,将人工智能与宗教结合代表着对道德主体的放弃,这确实威胁到大多数一神论神学观念,即人类是道德存在,是道德优越力量的反映。如果人类将道德评估委托给人工智能算法,他们可能会放弃进行仔细审议和辨别的义务。
人工智能中政治意识形态的危险
如果从宗教角度来看,将政治意识形态嵌入人工智能也同样令人不安。近年来,我们已经看到政治力量如何试图塑造围绕人工智能的叙述。例如,中国政府正在推动优先考虑社会和谐和国家政治议程的人工智能系统,利用人工智能来监视和控制其公民。同样,人工智能在西方国家(尤其是美国)的崛起也带来了自身的风险。想象一下人工智能系统可能会反映并强化独裁议程,根据一组狭隘的政治价值观来制定决策。
人工智能的本质——它处理大量数据并以对人类用户来说似乎不透明的方式做出决策的能力——很容易被出于意识形态目的而操纵。如果人工智能系统被编程为优先考虑某些政治意识形态,那么它们就可以充当压迫或强制的工具。例如,国家控制的人工智能可能会做出破坏基本自由的决定,就像出于宗教动机的人工智能可能会边缘化非信徒一样。当算法与政治或宗教意识形态保持一致时,它就不再是一个中立的工具,而是转变为特定信仰的党派执行者。
这种类型的人工智能对重视多元化、辩论和个人权利的民主社会构成了根本威胁。如果不加以控制,它可能会强化现状并压制异议。历史提供了无数的例子来说明意识形态,无论是宗教的还是政治的,如何被用来为压迫辩护。人工智能作为技术发展的下一个前沿领域,不应该被要求重蹈覆辙。
在马来西亚国家媒体控制力增强、宗教当局权力增强的背景下,安瓦尔的宣布更加令人不安。安瓦尔政府已经显示出其吸引马来保守派选票的策略的弱点,因为马来人仍然基本上忠于反对派。相反,安瓦尔推动宗教议程对他自己的支持者构成威慑,并可能危及马来西亚宗教少数群体的脆弱权利。
呼吁道德而非宗教的人工智能
安瓦尔总理呼吁将伊斯兰价值观融入人工智能,这可能是一次未经深思熟虑的尝试,旨在将道德清晰性引入强大的新技术中。然而,现实是宗教是人工智能伦理的不适当框架。人工智能应该以更广泛的道德指南针进行编程——一种多元化、灵活的、基于公平、正义和平等等人类共同价值观的指南针。人工智能的未来不应该是宗教或政治意识形态的战场,而应该是一个尊重人类经验多样性的协作、创造力和道德推理的领域——无论是在马来西亚还是整个世界。