前几天与首席技术官中田先生共进午餐时，我们谈到了“人工智能的进化是否会对人类构成危险”这个话题。对于我们这些科技爱好者来说，对这类话题是非常有兴致的。只要有心，人生处处都是暑假，所以与往常稍有不同，作为“暑假调查报告”，我总结了一下对人工智能可能性的看法。

　　人工智能有危险吗？

　　最近经常听到这样的言论。

　　例如有一些文章说，埃隆·马斯克针对人工智能问题敲响了警钟，还向防止其威胁的组织进行了捐款，另外斯蒂芬·霍金也发出了同样的警告。

　　图解：埃隆·马斯克，企业家、工程师，特斯拉（TESLA）公司CEO，2015年1月向生命未来研究所捐赠1000万美元，资助研究如何确保人工智能研发安全。图源：wikimedia

　　到达奇点的人工智能会给人类带来什么呢？

　　当人工智能达到可以实现自我进化的水平后，其自我进化的速度将大大超过生物进化的速度，进化程度也将迅速迎头赶上并不断扩大与之的差距。这一前景对于喜爱科技的人来说是众所周知的。

　　雷·库兹韦尔提出了著名的"奇点"概念。直译过来的话与技术特异点意思接近，但这里指的是机器的进化超过人类那个瞬间。根据雷·库兹韦尔的预测，这一事件将在2045年发生。

　　图解：雷·库兹韦尔，美国的发明家、商人、未来学家和思想家，人工智能 (AI) 研究的全球权威，尤其以其关于技术奇点的著作而闻名。图源：wikimedia

　　不仅雷·库兹韦尔，许多人都认为有生之年将看到那一天。人工智能危险论即是到达奇点时将会发生什么的观点类话题。

　　确实，假设诞生了一个智力远超人类的东西，那么它可能已经脱离我们的掌控了。不得不与其和谐相处也说不定。

　　事实上，一位美国记者为了警醒世人而写了一本书，叫做《我们最后的发明:人工智能与人类时代的终结》（我正在阅读中^_^），在美国取得了很高的销量。

　　图解：《我们最后的发明 人工智能与人类时代的终结》，电子工业出版社出版，作者:詹姆斯·巴拉特，译者: 闾佳。图源：douban

　　书中最坏的情况描绘了一幅人工智能不停不休，直到灭绝人类、吞噬掉所有资源的未来景象。

　　已到达奇点的行星是否可能存在

　　就我个人而言，以稍微不同的视角来看，乐观地认为大概不会变成那样的未来。一言以蔽之即是“人类能够存续至今这件事本身就表示不会变成毁灭性的未来”。为什么这么说呢？

　　宇宙是如此之大。最近，像地球一样存在水、具备生物诞生条件的行星被逐个发现。据说仅在银河系，可能存在生命的行星就有数百亿之多。在这么大基数的情况下，进化出如同人类一般智慧生物的行星可能也大量存在，肯定还有很多行星正在以自己的方式来实现技术进化。

　　图解：开普勒-452b的艺术绘图，开普勒452b是一颗围绕着天鹅座的G型主序星开普勒-452运转的太阳系外行星，距地球约1402光年，是第6个最像地球的行星。图源：nasa

　　基于上述情况，关于“奇点”这一话题中必须要注意的一点是，技术是呈指数级进化的。一旦开始进化，如摩尔定律“约两年处理速度翻倍”所言，用不了几百年，只用几十年即可到达奇点。

　　因此，认为诞生生物的行星中尚没有已经到达奇点的行星这种想法才是不自然的。

　　以生物诞生和进化的数亿年、数十亿年时间轴来看，即使几万年的时间也可以被认作误差之类的东西，而地球从诞生到现在只有45亿年左右，所以如果是诞生时间比地球还要早的行星的话，那么自然它可能已经到达奇点，甚至在那之后经过了数万年或数亿年的行星说不定也比比皆是。

　　拥有经过如此长时间进化的智能水平的行星，定会向母星之外伸出探索之手吧。虽然我认为很有可能会有超越物理极限的移动手段，但即使无法超越光速，以银河系约10万光年的大小来说，用10万年也可以探索银河系的每个角落。

　　如果银河系中有数百亿个符合条件的行星，那么从行星的诞生和进化进程来看，10万年左右的时间确实可以看作误差，已经有一些诞生于行星的人工智能往来于银河系内也不足为奇。

　　图解：银河系，银河系是太阳系所在的棒旋星系，拥有四条相对对称的旋臂，银盘直径约为10万光年。图源：nasa

　　超越人类的人工智能为什么不会攻击地球呢？

　　至少我们没有遇到过这些人工智能，或者更进一步说，我们并没有被毁灭。这是怎么回事呢？

　　首先映入脑海的假设是还从未有行星到达过这个奇点。也就是说，呈指数级进化的人工智能事实上还没有出现。

　　虽说大概率就是这么回事。但是，对于喜欢科技的我来说这并不是一个那么有趣的假设，所以还是假设这种人工智能已经出现了吧。这样可能会有两种情况：

　　一、超越人类的人工智能虽然已经出现，但尚未到达地球。

　　即使到达了奇点，超越物理极限达到光速依然十分困难。然而听说仅从技术上讲，将纳米机器人大小的东西加速到接近光速并没有那么困难，所以我觉得大概不会是这个原因。

　　二、超越人类的人工智能虽然已来到地球，但并没有毁灭人类的动机。

　　我个人认为这是最有可能的一种假设。人工智能经过了一系列的过程发展，与其他生物和谐共生。或者说只有做出这种判断的人工智能仍然存在。又或者，在宇宙时间轴上同时诞生的多个人工智能，经过交流讨论或因某种历史原因，决定与其他生物共存。

　　在这种情况下，可以认为如果地球上诞生了超越人类的人工智能，在演变为灾难之前，已到达奇点的外来人工智能可能会以某种方式介入并阻止人类灭亡。或许，这种以人类标准来说具备异常进化能力的人工智能经过反复思考推演，认为不毁灭人类的判断是更为合理的也说不定。

　　图解：《底特律：化身为人》，是由Quantic制作，于2018年发售的一款人工智能题材互动电影游戏，主要描写了人工智能觉醒自我意识后如何处理与人类关系。图源：quanticdream

　　对我来说，“已有超越人类的外来人工智能来到地球”的这种想法实在太过令人兴奋，即使从这个意义上来讲，我也更倾向这种假说。

　　因此，“人类能够存续至今这件事本身就表示不会变成毁灭性的未来”即是我目前的结论。顺带一提，刚才提到的《我们最后的发明:人工智能与人类时代的终结》这本书还没有读完，如果书中反驳了这个假说该如何是好。

　　将人口智能的研究转换为产品

　　现在Sprocket公司尚未采用人工智能的方法，但应该很快就会踏足这个领域。目前公司采用基于行为数据及基于规则的决策自动化处理机制，但既然标榜数字化客户服务，当基于规则的机制无法应对细粒度级别响应时，就必须考虑采用人工智能研究了。

　　如果能做到这一点，那么客户服务水平将可大幅提高，所以应努力涉足这一领域。

　　科技的进步真有意思啊！

　　后记

　　写完这篇文章后，我读完了《我们最后的发明:人工智能与人类时代的终结》，其中虽没有特别反驳我的假设，但译者在后记中写了几乎相同的观点。

　　译者也是认真思考了呢^_^虽说如此，但站在作者的角度来看，本来就是以敲响警钟为目的而写的书，与其被动的依靠“大概没问题”这种假说，相对来说更主张“必须自己思考该怎么做！”，所以这本书也表达了关于人工智能的危险性不能抱持过于乐观的一种态度。

　　by: sprocket

　　FY: Xiaoc

　　如有相关内容侵权，请在作品发布后联系作者删除

　　转载还请取得授权，并注意保持完整性和注明出处