人工智能有一天会统治人类吗？在享受科学技术带来的方便之时，北大教授何怀宏表达了自己的忧思。
人脑不断植入芯片，或能成为长生不老的超人，但我们还会有属人的丰沛感受和无限创意吗？人工智能给世界带来巨大便利，但会不会某一天越过奇点转而操控、替代并加害人类？基因编辑生殖细胞，或能治疗许多疾病，但会不会危及人类基因库与自然的生物世界？凡此种种，对人类来说，到底是福音还是噩耗？
伦理学家、北大哲学系教授何怀宏自2017年开始，对科学技术和人类生活的改变做出了深度思考。在广西师大出版社出版的《人类还有未来吗》一书中，何怀宏教授既有对人与物的重新界定，也有对超级人工智能的忧思，既包括基因编辑潜藏的技术风险和伦理问题，也有对《三体》中宇宙社会学和黑暗森林的生存法则的剖析。
近代以来，科技的进步给人类生活带来了巨大的便利。但是，这并不意味着人类可以拒绝接受它的副产品，甚至可能面临的危机。何怀宏从底线伦理和中西传统文化智慧的角度考察了人工智能和基因技术与我们的现实关系，并提出了预防性的道德与法律规范设想。高科技的种种挑战，使我们不得不思考：何以为人，何以为物？人曾何为，人将何为？
对以上问题感兴趣的，不妨来看看这篇访谈。
何怀宏 哲学博士，1954年12月生于江西樟树市，曾任中国青年政治学院副教授，中国文化研究所研究员，现为北京大学哲学系教授，伦理学教研室主任，博士生导师，主要从事伦理学、人生哲学、社会史等领域的研究。
来源：《燕京书评》
采写：张弘
「在控物能力和自控能力面前，不能相信人性」
燕京书评：在古希腊，哲学家同时也是科学家，但到后来，哲学、伦理学就和科学分开了。你对人工智能等高科技的忧虑，显然是哲学家式的思考。那么，你如何看待哲学（伦理学）和科技之间的关系？
何怀宏：上个世纪50年代，人文学科和自然科学有过一场争论。这场争论显示，两大学科相当隔膜，自说自话，有时甚至互相冲突。英国物理学家、小说家查尔斯·珀西·斯诺提出“两种文化”，希望促进交流。目前的形势是，科技越来越把握主导话语权，人文其实是更加冷落下去了。我也还是比较赞许斯诺所说的，自然科学在几个世纪以来大大提高了人们的物质生活水平。在斯诺之后，这几十年看得更清楚了，即使是比较穷的国家，人均寿命、营养水平都可能超过上世纪初发达国家的水平，像平克、赫拉利都说到了这些情况。这些科技的成就，大家都看得见。但是，科技的危险是潜藏的，而且科学家自己可能不容易看得见。
我们每次跟科学家对话，都会感到他们很兴奋、很乐观。他们有一种非常大胆的探索精神，觉得很多东西不试试怎么行呢？哪怕不知后果如何。但科学本身就是尝试过来的，我们从读小学开始就有一个根深蒂固的观念，觉得人总是会有办法，不管出现什么问题，或一些意料不到的障碍或危险，人最后都能够克服，人有办法能够战胜这些困难。
像以前人遇到的一些问题和障碍，其实更多的是人的控物能力问题。比如说人们能不能跑过马、比风更快，或者是移山填海这样的事，最后觉得还是人更有办法。但现在的问题不是这个，而是科学技术单边突进。其实，人控制物质的能力是越来越强了，这方面倒反而没有太大的忧虑；但人控制自己的能力，是不是也是在同步增长？甚至，有没有可能大幅度的增长？
我们并没有看到这方面相应的进步。更悲观者认为，人性就是人性，这里主要指的是人的道德性，它不像人的智能（也就是控物能力），能够有一种累积性的增加和突飞猛进。一般来说，今天还是恶劣的人，不遇到什么强刺激，不大可能明天就洗心革面或者立地成佛。可能，在很少数人身上，会发生这种心理转变、我也不否认顿悟，哪怕是渐进地发生一种根本性的转折也行，但很难说大多数人，更别说所有人，都能发生这样一种大转变。
就像修昔底德在《伯罗奔尼撒战争史》里所说的，人性就是人性。在所有地方和所有人群中，人性的差别都不大，经过千百万年也差别不大。像希腊雅典有那样的光荣和辉煌，但一陷入战争和内乱，你会发现他们依然回到固有的人性恶的一面。比如说雅典人跑到其他城邦去，他们一定要这些城邦支持自己，甚至中立都不行——雅典就把这些中立的城邦给灭了，毫不含糊。这个时候，你会发现，它完全是一种强权逻辑。我们说雅典人足够文明、足够强大、足够光荣，但人性的根本性改变并没有发生。当时希腊那些城邦的对立，比如民主的城邦和寡头的城邦，包括发生在城邦内部的民主派和寡头派之间的互相残杀，非常血腥。
所以，从古到今，很难期望人性的根本转变或者提升。就在这一百多年，尤其是最近几十年，人类控制外物的能力确实有非常大的提升。现在我们就担心，就像有些人经常比喻的那样，会不会像一个孩子拿到了新式武器，他不知道利害，但他掌握着它。他会做出什么，我们不知道——这是意料不到的。这就是我反复强调的，人的控物能力和人类的自控能力好像是越来越不平衡，越来越不相称了。
这就面临着危险。这个危险不是来自某一个局部，或者人工智能，或者基因工程，或者是核武器，而是来自整个科技。因为整个科技是互相结合、连贯发展的，你不知道从哪个地方会出现一个大的威胁，当然这也是一个大的突进，你很难及时预测后果。这是一个根本性、持续性的矛盾，就是人的控制能力和自控能力的不平衡，人的智能单一的发展和人的其他能力——包括道德能力、精神方面其他能力的发展不平衡。
所以，真正的忧虑是在这儿。一方面，这些新科技带来了非常大的便利，也带来了物质、财富的繁荣发展；另一方面，也带来了各种各样潜在的、今天可能还没出现的巨大危险。我们容易看到前面的成就，但看不到潜在的危险。
《人类还有未来吗》，何怀宏著
广西师范大学出版社2020年8月
「科技是更大的利维坦，整个人类都无法回避」
燕京书评：你强调了人类控物能力和自制能力之间的冲突机制：人类对于科技的需求永无餍足，不可遏制地期望更多、更高、更方便，但人的道德能力不会随着控物能力大幅提升。于是，人类控物能力和自制能力的距离越来越大。科技发明除了核武器，可能还有更隐蔽的生化武器，而基因工程、编辑婴儿、人工智能都可能给人类带来危险。你忧虑的问题可能离一般民众比较远，但这种危险却真实存在。但是，有人对此保持乐观——基于科技在过去给人类带来的便利，乐观者相信，科技使生活更美好。这种经验主义的态度似乎也有合理性，但明显不同于你的忧患意识。那么，赫胥黎《美丽新世界》中描述科技扭曲人类生活的情形，真的会在现实中发生吗？
何怀宏：是不是会发生，我们谁也不知道。但是，即使有1%的可能发生，而这个发生就可能带来不可逆转的结果。哪怕发生的概率很低，也不得不预先防范。这个不可逆转有好几层含义：第一，过去的文明还没有出现现代人这般的巨大能力，它们的衰落也不是完全的毁灭，它们还可能恢复乃至复兴；第二，过去是同时存在几个相互隔离的文明，即便其中某个文明衰落，但其他的文明可能基本不受影响，比如公元之初，汉朝大乱，但罗马还在兴起；后来，古罗马帝国衰落大乱，也不影响到中国朝代还可能保持和平或进入盛世。
在当下，全球化导致人类变成了统一的文明，一旦发生灾难，有可能就变成全球性的乃至彻底的灾难，整个人类都无法回避。过去战乱了，你躲到山里可能就躲过来了；如果现在爆发了核战争，哪里都没办法躲；甚至，可能还有比被打回“石器时代”更大的灾难。如果人工智能变成超级智能机器，就像马斯克幻想移民到火星都不一定能够逃脱。
为什么基辛格、霍金、马斯克都对人工智能忧心忡忡？基辛格偶然听到关于人工智能的讲演，就认为人工智能是很大的危险。这些都是世纪智者类型的人，人工智能能够触动它们，这不是虚张声势的危险，而是真实潜藏的危险。我们不知道危险什么时候到来，也不知道危险发生的概率，也不知道将会发生什么样的危险。但是，少数人有这样的危机意识诞生出来，也许对人类是有益的。哪怕最后证明他们担心错了，就像罗马俱乐部当年的悲观预言，对世界的经济、人口进行了比较阴暗的前景描述，后来的情形也比他们所说的乐观。但恰恰可能正是他们的预测激发了处理方式，刺激了预防措施，预言的灾难才没有发生。有预警总是好的，哪怕这些预警者因此而承担更焦虑、更沉重的负担，但还是有必要的。
从经济而言，今天的科技是一个更大的利维坦，无所不包，无孔不入；从危险来说，猿人对森林危险茫然无知，可能就被毁灭了。如果有猿人意识到森林里有危险，它可能就开始逃离，像最早的一批人从森林逃离到平原，开始很艰难，但后来活过来，就变成现代智人的祖先，这也是有可能的。各种可能性都存在。
燕京书评：前几年，人们都还在谈论手机依赖症，现在已经没有人探讨这个问题了，智能手机几乎成为了人们的必配，人们消耗了过多的时间在包括微信在内的手机应用上。人们在享受科技带来便利的同时，对这种便利又缺乏足够的警惕。甚至，有学者专门写过告别微信的文章。你刚才说到，人类的精神文化比科技发展稍显落后。在使用科技便利的同时，又对它保持警惕性，这好像是个悖论。你怎么看？
何怀宏：有的学者和艺术家不使用微信，甚至是决心一年不使用手机，到山里搭个房子住下来，就是想试验一下不使用现代便利条件能不能够生活下来，但确实很艰难。因为技术的特点是无孔不入、无所不包，不可能再像过去的隐士一样自给自足，或者邻里友好，物物交换。这确实是个矛盾。
我们作为力量微薄的个人，很难抵制技术及其笼罩性影响，甚至有时干脆不抵抗了。但我觉得，心里还是要有些警醒的。另外，我也抱着一个期望，希望能够放缓技术发展，甚至哪天停止某些技术开发，不要年年更新，甚至月月更新。但这确实很难，有时要遇到坚硬的墙才会停止往前，甚至遇到灾难才会使人有所警醒。
当然，我希望这种灾难不至于使人陷于无法挽救。其实，在抵抗方面，并没有成功的希望，只会带来更多的不便利。有时你只能在某些方面随众，但不断发出声音也许是个办法，当然也随时准备和大家一起采取某种措施。
对那些尝试不用智能手机或电子产品的人，我们可能一方面佩服，一方面不屑，但在真遇到灾难时，这些人也许成为积累了经验的先行者，甚至成为面对新局势的榜样。至少，他们让我们看到有人尝试过，这样也能活下去。
燕京书评：《人类还有未来吗》开篇就对人和物做了定义，认为人的意识除了理性，还有感情和意志等，机器在这方面没有办法相提并论。在人和物、人和自然的关系上，你几处提及自己支持比较温和的人类中心主义。此前，有一些环保主义者和生态学学者对人类中心主义持批评态度。那么，你倾向于人类中心主义的理由和原因在哪里？
何怀宏：如果在人类中心主义太强势的情况下，尝试跳出人类中心主义的视野，试图像动物一样去感受，用动物的感受去思考时代，用动物的眼光来感受世界，其实是挺有意义的。但落实到实践中，比如想说服政府或社会采取某些对策或者政策，完全用非人类中心主义的理由是很难说服政府和大众的。一百多年前美国设立国家公园，等于把大片的地皮圈起来不让开发，倡议者开始时遇到重重阻力，他们采取了很多人类中心主义的说法，说是为了人类的长治久安、代际正义，为后代留下一块净土，更有益于人的健康发展。这是用这些人类中心的理由去说服其他人，取得了相当的成功。如果完全用非人类中心主义的理由去说服其他人，我觉得很难成功。
在思想和实践中，可能还会有些不一样：非人类中心主义，可以帮助我们跳出固有的框框和视野，采取某种达观的态度，甚至天人合一的观点；但在实践中，尤其是在公共政策中，可能会有不同的进路。
图片来源：摄图网「人文素养或许能够改善人类，但也无法阻挡邪恶」
燕京书评：《人类还有未来吗》提出了一个令人忧虑的历史现象，就是人类精神文化滞后于科技方面的发展，即工业革命以来，科技发展迅猛，而精神文化显示出落后和停滞的迹象。近代之前的13-14世纪，西方有意大利文艺复兴；17-19世纪，艺术、哲学等领域基本可以和科技并行；20世纪，开始走下坡路；21世纪，科技远远领先于精神文化的发展。那么，造成这种现象的原因，是物质主义和消费主义的兴起，还是现代化不可避免的结果？
何怀宏：在某种意义上，这是很难避免的。在中世纪，整体的价值取向都是朝向彼岸，主要的精力、最聪明的头脑、最努力的行为，都是朝向未来的永生；到文艺复兴前后，转向俗世，关心人间。像“文艺复兴三巨人”达芬奇、拉斐尔、米开朗基罗，可以说是人类憋足了劲以后的一次迸发。他们既有的才华，再加上古希腊、罗马原有的辉煌遗产，这种活力一旦涌现，就结成了灿烂的花朵。那是我们今天难以逾越的高峰，但后来其他方面又有新的高峰涌现，像莎士比亚的戏剧、19世纪的俄罗斯文学等，都是人类艺术创造所能达到的高峰。另外，还有很多哲学家，像德国古典哲学等，都是思想和精神文化的高峰。
但是，近些年越来越崇拜的是什么？是物质，是身体。今天最大的明星甚至也不是科学家，而是运动明星、娱乐明星。物质主义和消费主义越来越流行，这背后的原因是什么？有些知识分子因此痛恨资本或市场，但资本和市场只是满足人们物欲的手段工具，市场是发展经济最有效的经济制度；加上技术的火车头作用和全球化的贸易，都在推动和改善人们的物质生活水平。
社会结构为什么会发生这种变化？我跟一些西方知识分子对话，他们大多批判资本或市场，就觉得找到了原因。但是，可能恰恰是他们追求的平等目标才是原因。过去的传统社会是等级制，意味着占统治地位的思想是统治阶级的思想。统治阶级是少数人统治，他们的物质状况相当不错，超过一般老百姓。因此，他们的思想不是把经济、物质作为首要目标或主要目标。比如说，中国儒家可能是希圣希贤，在古希腊是荣誉，在古罗马是功业辉煌，在中世纪是成圣永生。虽然追求这些目标的人是少数，但因为他们是统治阶级，导致他们的价值追求成为了社会的主导价值追求。
在价值平等、社会平等之后，多数人的追求会慢慢成为主导，价值平等不是走向价值多元，而是会自然形成价值一元，考虑更多的是物质生活的改进，对物质期望值越来越高。这是一个强大的动力，这个动力的释放和平等的潮流很有关系。包括今天经常以正义之名追求的很多平等，无论是身份政治还是福利国家，背后仍是为了试图满足物质欲望或提高某些群体的地位，而不是精神性方面的需求。
在这两个目标之间，西方知识分子往往对物质主义、消费主义痛恨不已；他们没想到，只要现代社会走向完全的价值平等，那肯定要关怀多数，多数人不管政体是民主还是威权，首要的都是满足大家不断改善物质生活的经济欲望。这是很难避免的结果。精神文化的衰落也是自然而然的事情，没有必要抱怨或愤怒，大可达观地看待。我们要追求平等，就要准备接受这个结果。
燕京书评：从现实情况来看，科技的地位变得更加重要，人类精神越来越远。按道理来说，如果人类精神要与科技发展相匹配，那么包括哲学在内的人文学科就非常重要。但现在，不管是在中国还是在其他国家，人文学科都远远比不上理工科。日本文部科学省前几年敦促各国立大学缩小或废除人文社学学科，目的是让国立大学将教育资源转向“社会需求较高的领域”。理工重、人文轻的现象在中国也非常严重，你怎么看？
何怀宏：对。大潮流和大趋势是改变不了的，比如越来越注重实用，越来越技术化。我们不能再创造出前人那种辉煌艺术或哲学成果来，但只要人文还保留一块飞地或象牙塔，努力把薪火传承下去可能就满意了。我从来不希望人文有多大的复兴，幸好有些好的大学还保留着一块地方，让人文知识分子还有个落脚之地。我倒是觉得，也不需要去特别重视人文学科的发展，只要留点地方就可以了，因为社会要发展经济，要提高生活水平，就是要发展技术，走向实用。
燕京书评：前些年到现在，不管是西方知识分子还是中国知识分子，都在谈论二战时有很多的德国官兵也有很高的文化修养，有人刚弹完贝多芬钢琴曲就去摁下毒气室的开关。在这里，人文修养和科技的应用形成了邪恶的组合，你对此有何见解？
何怀宏：道德、艺术和人文修养不完全重合，有时甚至不太相关。在任何一个群体，艺术家、白领或体力劳动者，很难说哪个群体的道德特别高尚；当然，艺术家群体可能物欲更淡些，相对来言，他有艺术追求，不用光追求物质，但这也不影响他行大恶。比起普通人来，他造的孽可能更大，这都是有可能的。
总的来说，提升个人的文化修养，确实有可能淡化物欲；淡化物欲，就有可能不与别人处在你死我活的冲突之中，可能有助于改善他的状况。我们很难避免某些制度或某些人形成邪恶的组合，那是反常现象。
燕京书评：《人类还有未来吗》提到，有的科技工作者为了商业利益，有的为了追求名声，有的仅仅是因为对未知领域的好奇心，就不管不顾地投入各种违背科学伦理的研究和试验。贺建奎基因编辑婴儿事件爆发后，在中国和国际上引发了轩然大波，事后也受到了严厉的处罚。你在书中提出了两重约束手段：自律和他律。同时，你也认为真正构成自控能力的是道德与信仰，而道德常常也必须外化为制度与法律约束。但在现实中，科技领域总有研究者会逾越道德、伦理和法律的约束。正如你所说，至少在短时间内看不到人性的改变，这种情形似乎无法避免？
何怀宏：在很多情况之下，只能亡羊补牢，也就是事后惩罚。事后惩罚也许可以为后来者竖立标杆，警示禁区，使他们知道冲破禁区可能会带来身败名裂的危险，但不可能完全阻止人以身试法。
有些人到了科学研究的临界点，哪怕不能给自己带来利益，甚至只会带来恶名，但他很可能他仅仅出于好奇而想看看实验到底会造成什么结果。困难就在这里。仅靠自律是不够的，得靠他律。这不仅仅包括道德信仰，还要变成制度和法律；但即使这样，也不可能完全奏效。但是，有他律存在，总比没有好。以后还可能出现贺建奎，但可能出现得少一些。如果对贺建奎基因编辑事件不做任何处理和惩罚，很快就会出现越来越多的类似现象；不管采取怎样的措施和处理，这种现象就会少一些，至少有部分人会有所顾虑或者畏惧，但不可能完全杜绝。
图片来源：摄图网燕京书评：另一方面，哥白尼和伽利略做科学发现时，受到非常严厉的教会惩罚；但事后来看，应该支持哥白尼和伽利略。在科学研究和社会秩序等方面，有时似乎会面临一种选择困境。你怎么看？
何怀宏：因为哥白尼和伽利略的科学发现，会动摇人们的宗教信仰。比如哥白尼提出的“日心说”，打破长期以来居于宗教统治地位的“地心说”，甚至会在一段时期内造成很大的社会动荡。
但是，第一，科学真理还是局部的。有时我们自信自傲，好像由此发现了太阳系的真理，但我们很难解释宏观世界，像银河系和外星系统，更别说宇宙的诞生，但根本的东西是无法解释的。微观世界也是如此，我们现在就被小小的病毒折磨到全世界惊恐不安。还有很多诸如人类灵魂、意识诞生的问题，我们以为能解决，但不一定能解决。包括进化论，也只是一些外在的解释。更深的奥秘，还在我们的知识之外。科学真理，还是有局限性的。
第二，哥白尼和伽利略发现的，毕竟是纯科学的真理。但是，像贺建奎所做的基因编辑是很实用的技术，不仅仅可以直接看到社会后果，还会直接产生技术后果。比如经过他基因编辑的婴儿可能的确能防艾滋病，但对其他疾病更为敏感了，这个后果是预料不到的，更不要说进入了人类基因库后会发生怎样的后果。比如他真制造出了一个超人，同时也出现很多怪物；因为他很可能失败，怎么对待这些生命半成品的怪物，或者说果真出现了超人，他会怎么对待原生人？种种后果都很难预料。在技术上深入一步就自以为发现了真知，这是人驾驭不了、掌握不住的危险。你可以发现某种秘密，但你不可能知道全部后果。
「尽管一己之力很难改变现状，但中国需要认真的人」
燕京书评：你在书里谈到了刘慈欣的《三体》，尤其分析了书中涉及的道德问题。你对书中的宇宙社会学和黑暗森林生存法则有些怀疑，认为宇宙文明不会总是生存死局。你这种态度是平克式的乐观，还是自信道德伦理和规则在整个宇宙中普遍存在？
何怀宏：第一，刘慈欣所说的危险不是那么现实，或说概率极小。这跟他的愿望有关，他似乎很希望人类优先发展太空科学和太空事业。这里有一个问题，对过于遥远和概率极小的危险，是不是要把它放到恰当的位置上？
第二，我不敢说宇宙存在着普遍的道德规律，但我也更怀疑宇宙间普遍存在着一种像他所描绘的你死我活的生存竞争定律，要超前地把比自己弱的势力消灭掉。他在书中描述，技术有时会跳跃发展，有的势力现在比我弱，但过些时候可能突然超过我；为了防备，得先把它灭了。我觉得没有这种生存斗争的普遍规律，尤其是这种生存斗争还需要预先超前地消灭对方。
第三，相反，至少我们在地球上看到，人类是靠道德律延续至今的。如果没有那些基本的模型，比如《摩西十诫》之类，强调不可杀人等等，人类延续不到今天。你有可能陷入生存竞争、你死我活的时代，但人类内心的道德律还是会很快起作用。像在秦末项羽、刘邦相争的过程中，其中有一点大家可能容易忽略，这就是刘邦的“约法三章”——这对他得天下帮助很大，哪怕他不是完全真诚的，但他还是说了“杀人者死”。这样的“约法三章”，比项羽火烧阿房宫更吸引民心。民心不管怎样，首先是想保存自己的生命。所以，它还是起了作用。
道德能把人类从崩溃状态解救出来，使人类文明延续到今天。
燕京书评：《人类还有未来吗》谈到了人工智能的奇点，就是指机器智能超过人工智能的那一刻，或者说智能爆炸让人工智能超越初始创造它的主人的智能的那一刻。我曾经听过一个哲学学者的演讲，他认为人类绝不能让机器人（人工智能）获得自主意识，否则就有可能陷入危险。但也有其他学者批评这一观点，认为这是典型的主奴思想。你怎么看待这两种观点？
何怀宏：这就涉及到人类中心主义和非人类中心主义，某种人类中心主义是没法避免的。无论是个人的还是小群体的，甚至是大群体、整个人类，某种自保是没法避免的。
在人类和自己创造物的人际关系之间，在机器还没有获得自我意识之前，在不知道自保的情况下，也可能就没那么多痛苦和焦虑，这时候不如让它不出现。等到它的自我意识、主体意识诞生以后，几乎可以断定是斗不过它的。在它还没有自我意识、自觉意识，没有那些痛苦焦虑之前预先防范它，还是可取的。
燕京书评：与人工智能等科技领域可能面临的问题相比，我更担心某些国家利用高科技对公民实施控制乃至犯罪。可以设想，如果希特勒当年抢在盟国之前发明了原子弹，那么世界的格局会完全不同。预防滥用国家权力掌控最顶尖的高科技，才是最应该担心的问题。你怎么看？
何怀宏：西方也有不少人反对人脸识别或其他技术，也是出于这种担心。在这里有一些权重，可能随着不同国度、不同地区的差异而出现不同的考量。比如说，在控制新冠肺炎的措施方面，有些国家或地区可能会把保命放在第一位，不管怎样管制，只要能保命就接受。还有些人不能接受为了防范新冠肺炎就完全牺牲自由。
这里还涉及到全面的权衡：到底危险对生命的威胁有多大？如果危险很大，出门就要染病而可能死亡，那我相信绝大部分人都不会出门；如果不是这样，是否有必要禁止公民出门，这就会有各种各样的对自由和生命的不同权衡，还有发生冲突的概率等。很大程度上，各国采取的措施往往是适合各国的民情和民意，从各国民情民意的抵抗程度就能够看出来。在有些时候可能和个人的价值观有冲突，但你可能也没有办法，不同的人群要考虑不同的措施。如果你觉得自由更可贵，你也可以发声，也可以尽量提升你所处人群中的自由意识及其平衡意识。但有时候，在管制面前，微薄的一己之力很难改变现状。
图片：摄图网
燕京书评：冯象教授在《我是阿尔法》中设想出现一种全新的文明：人机关系和谐融洽，其社会关系、人与人、人与机器、机器之间都由共同的“大公无私”的世界观、价值观维系，也就是“人机大同”的社会。他认识到资本的贪婪和人类不断增强的物质欲望所带来的危险，寄希望于国家权力和全盘公有化。但我感觉，这有可能是哈耶克所说的“通往奴役之路”，你在书中也简要批评了他的观点。在美国，有三个历史时期曾经出现过很多小团体的乌托邦实验，但绝大多是都宣告失败，那些存活下来的实验组织，在组织方式、财产权和教育等方面都已与当初的乌托邦设想相差了十万八千里。所有这些事例都告诉我，应该警惕国家权力和全盘公有化，在人工智能方面同样如此。你在书中刚对此谈得不多，可否再延伸一下？
何怀宏：肯定要同时警惕。但有时也得借助某些力量，比如说一些关键的少数：如何能够让第一线科学家具有人文意识或忧患意识。因为他经费多，项目大，太忙了，很难听进去，但不管怎样，第一线的科学家有人文修养是好事。
第二个就是掌握资本的投资人。当然，在有些国度，金钱和权力紧密地联系在一起；在另一些国家，它们是分离的。这些人掌握着投资，因此也要谨慎。
第三个就是国家。我们要客观看待，相对来说，政府比科学家个人或投资者个人的视野更开阔，政府关心的方面要更广泛一些，有可能脱离局部的限制，能够从整体考虑问题；当然，政府也要尽量不带私心，天下为公，不从特殊集团的利益去考虑问题。但是，政治的力量是很大的，权力在一些国家远远超过资本的力量，科学家的活动也主要在国家的制度之下，如何善用和约束权力极其重要。当然，也可能会出现你所说的那种情况。我们可能对权力一方面要抱有警惕，另一方面有时也要借助这种力量，从法律上去约束和节制技术与资本的活动。
最后，就是像我们这样远离科技第一线也远离权力和资本的知识分子和媒体人群体，我们要有些空闲去思考和反省这一切，我们所能做的可能就是尽量的发声。
