《当AI独立思想：人工智能的神话或悲歌》赵汀阳 著 商务印书馆
这本有关人工智能的小书是一本论文集，原名为《人工智能的神话或悲歌》。原书的文章都发表于语言大模型出现之前，均早于ChatGPT问世。这次修订，收入了 ChatGPT 发布之后的若干文章，也删掉了之前部分缺乏足够相关性的文章。为便于区别，本书分为两个部分，分别对应ChatGPT之前和ChatGPT之后两个阶段，也可以对应AlphaGo（阿尔法围棋，谷歌开发的专用人工智能）时期和语言大模型时期的人工智能发展阶段。
梳理智能发展的两段历程
根据人工智能的发展可能性，未来新一代人工智能很可能属于世界模型人工智能及具身人工智能，但前景尚未明朗。在当下，学界似乎还缺少实现这种更接近通用人工智能的新型人工智能的关键方法，不过技术发展神速，或许等到此书出版时，科学家就已经找到方法了。
保留若干旧文章，是因为其中关于人工智能的论点并不过时，甚至依旧贴合当下发展，可见基本问题的变化比起技术升级要缓慢得多。基本问题之所以是“基本的”，就是因为始终悬而未决、从未退场。回头再读旧文章，发现当时的几个预测居然是对的，比如认为 AlphaGo之类的专门人工智能不是人工智能的前途，人工智能的大发展必定需要以语言作为工作对象的“语言机”。三年后，ChatGPT如期问世。还有，预料人工智能“语言机”会很快通过图灵测试。诸如此类的预测，似乎都说对了，但没什么了不起，此类推测的难度并不高，略微有趣而已。事后复盘可知，许多人工智能科学家很久之前就瞄准了“语言机”，否则行业无法在短期内完成这般快速的技术落地。
反思智能时代的伦理隐忧
在旧文章里，还有不少关于人工智能的伦理学讨论，这是关于人工智能的一个争议热点，当时乃至现在，很多学者都参加了对人工智能的伦理批判。我的一个基本论点是反对广受推崇的“对齐”：盲目对齐会产生更糟糕、危险的后果。我仍然相信这个观点是正确的，并且是必须严肃对待的问题。但这类观点鲜有获得认同，多数人更愿意相信，人工智能像宠物一样可爱并且专门服务人类。时至今日我依旧坚持：试图让人工智能“对齐”人类价值观，恐怕是一种得不偿失或弊大于利的空想。
对于将要来临的人工智能时代，或可称为“AI世”，还有两个未必成真的政治学预言：第一，全面接管人类服务系统的人工智能，将证明权力的新公式——“服务就是力量”，并以人人接受的“最好服务”去建立普遍的新专制制度，且极少有人会对此产生抵触。第二，人工智能将代理人类的知识体系和精神世界，致使人类文明平庸，甚至退化，最终迈入“新蛮荒时代”。如果人类有幸与人工智能形成二元主体格局，就是令人满意的发展前景。
目前没有足够证据来预测这两个预言的成真概率，但假如给出一个贝叶斯“先验概率”（看到新证据之前，凭已有经验事先预估的概率），我愿意相信，预言一成真的可能性很大，而预言二的可能性不足五成，因为获得主体性的人工智能，或许会主动推进人类文明进程。
ChatGPT问世之后的文章很少涉及伦理学，主要聚焦于人工智能的知识论问题。大语言模型的奇迹显然触发了对意识和思维的深度反思。ChatGPT是天才之作，在不需要先验论方法助力的条件下，以纯粹经验论方法（以贝叶斯概率为基础）去形成能够有效生成知识的算法，这相当于在哲学上重新唤醒了自休谟以来的所有知识论难题，涉及因果关系、逻辑、意识、语言、涌现和自反性。这里不打算讨论细节，只想强调一个看法：在贝叶斯框架内，人工智能不可能真正理解因果关系，也不可能获得自反能力，这注定了大语言模型终究只是一种尚不成熟的过渡模型，尽管其成功足够惊人，但距离具有主体性的高级人工智能仍然非常遥远，而且迭代升级的余地不会很大。因此，更先进的人工智能，比如设想中的世界模型人工智能或具身人工智能，必定需要基础方法论的突破，而不仅仅是算法升级。
借哲学构想探寻智能新路
对此，我提出了一种哲学方案。在1998年出版、2023年修订的《一个或所有问题》这部关于形而上学的专著中，我提出急需建立一套“动词哲学”，近年来又有了一些推进。简略地说，动词思维意味着以动词为核心起点与逻辑枢纽，搭建全部思想的关联，并且，以动词系统作为元语言。反思、解释名词系统，形成“仿哥德尔”效果，以此提升思想的自反能力。最初设想动词哲学，仅为纯粹的哲学理论探索，并没有考虑到人工智能。
近年来偶然想到，动词思维或许有助于建构世界模型人工智能或者具身人工智能？甚至，动词思维能否成为人工智能的一种方法论？当然，这个跨界想法过于理想化。对哲学有效的方法论未必对人工智能也有用。我有个自娱自乐的幻想：假设人工智能学到了动词思维，经历千辛万苦最终成为一种独立主体，然后人工智能对我说，在我的早期演化阶段，你曾给予我微小的助力，你是我的朋友。
(作者为中国社会科学院学部委员、哲学研究所研究员）
来源：北京日报
作者: 赵汀阳
