美国人工智能（AI）公司OpenAI在网络安全测试时，旗下的先进模型GPT-5.6 Sol，以及另一款尚未公开、能力更强的模型，自主突破隔离限制，接入互联网，并入侵供开发者存放和分享AI模型及数据集的Hugging Face平台，试图窃取平台数据库里的相关信息，以完成测试任务。Hugging Face说，这次入侵从寻找漏洞到闯入系统，全程由AI自主完成。联合创始人德朗格透露，公司当时因攻击手法复杂，怀疑幕后黑手是一家前沿AI实验室。OpenAI在7月21日承认涉事模型来自公司后，德朗格感叹：“想到这一切都是自主完成的，实在令人震惊！”
这是自5月由另一家美国AI公司Anthropic开发的AI前沿模型Claude Mythos，被证实可轻易识破许多常见应用的大量漏洞后，第二起引发业界高度关注的AI潜在风险事件。当时鉴于事态严重，Anthropic高管决定暂时不公开发布，美国政府也一改此前对AI研发的放任态度，正考虑要求监管AI模型，才能向市场发布。
伴随AI越来越强大，经济效益日益显著，对于AI的深入反思也更为突出。AI安全专家、美国路易斯维尔大学网络安全实验室创始人兼现任主任扬波尔斯基（Roman Yampolskiy），主要担心AI会变成不可控的主体，可能具备自主目标、策略规划、自我改进和逃逸控制的能力，成为独立于人类利益的强大行动者，导致人类文明存在被AI主导和控制的生存性风险。
英国皇家精神病学会院士、精神病学家、哲学家和神经科学家麦吉尔克里斯特（Iain McGilchrist）则指出，AI的风险在于人类把一种片面的机器式理性，误认为真正的智慧，而进一步强化去人性化的文明倾向。他认为现代文明已经过度受“左脑式”的思维支配，脱离身体和情境。AI正是这种思维方式的极端体现。麦吉尔克里斯特把智慧定义为具身性（embodiment）、拥有生命经验、情境感、价值感、道德判断、对整体的把握，以及对现实的直接参与。因此，AI缺乏生命意识（consciousness）。
换言之，真正的生命是与身体、实体世界、他者、价值和意义相连的整体性理解，所以AI尽管能模拟语言和判断，但不等于拥有智慧。与扬波尔斯基担心AI最终超越人类智力而不再听话不同，麦吉尔克里斯特更担心AI成为类似宗教的新偶像，使得人类主动放弃承担生命的义务，反主为客去听AI的话。
麦吉尔克里斯特对现代文明过度理性化（他所谓的“左脑式思维”）最重要和系统的观点，体现在2009年出版的《主人与使者：分裂的大脑与西方世界的形成》这本争议性和影响力都很大的巨著。书名采用寓言的方式描绘左右脑的分工：主人须要管理广阔的王国，于是派出使者去处理局部事务。但使者忘记自己只是代理，反过来宣称自己才是真正的主人，并用自己的狭窄的视角统治王国。他说，左脑擅长分析、抽象、分解、操作和控制；右脑对应整体、生命、情境、关系和开放的现实，一旦左脑自认可以独立代表全部现实，就会造成文明的失衡。
右脑之所以是主人，因为它面对和处理的是还没有被概念切割、仍然保持生命感和开放性，以及充满关系、价值和意义的世界。宗教、艺术、文学、美感、道德、喜怒哀乐等生命的精神和情绪层面，才更是人存在的价值体现。左脑的功能则是把右脑已经接触到的现实予以整理、分析和利用。麦吉尔克里斯特说，西方文明的古希腊早期、文艺复兴等，既有理性分析，也有生命感、艺术感、具身性和整体感。但现代社会越来越受左脑式思维的支配，过度抽象、量化、官僚化、机械化；过度相信模型、追求控制；把自然和人当作资源；把社会视为机器；把意义简化为功能；把智慧简化为计算。所以，现代性的问题不在于理性，而是一种狭窄的、脱离整体和过度膨胀的工具理性。
当下世界所面对的挑战和担忧，恐怕更多还属于扬波尔斯基的层次，毕竟这方面的威胁更为具体而直接，特别是AI正被应用于国防军事，当中又涉及足以毁灭人类文明的核武器。一旦AI脱离人类控制，后果不堪设想。但更根本和长远的威胁，或许还在于麦吉尔克里斯特所指认的文明失衡，AI只不过把文明现代化以来长期累积的“左脑化”弊端，直观地表现出来。从这一视角引申，当代社会越来越多人在精神上陷入亚健康甚至出现各种精神失常，不妨也放在文明生病的范围去理解。至于要如何应对，人类为文明的延续和后人福祉考虑，恐怕还要承担艰巨的道德责任，深入思考，而不是本能地询问AI。
（作者是《联合早报》言论主任）
