美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?

美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?
2019年08月20日 00:19 新浪网 作者 新智元

来源:知社学术圈  (ID:zhishexueshuquan) 整理编辑:张佳【新智元导读】1995年,Manuel Blum 因计算复杂性理论及其在密码系统和程序检验中的应用而获图灵奖。在今年的第三届世界智能大会上,Manuel Blum 发表了题为“迈向有意识的人工智能,受神经科学启发的计算机体系结构”的演讲,一起来聆听大师的智慧。Manuel Blum, 1995年,因计算复杂性理论及其在密码系统和程序检验中的应用而获图灵奖。美国国家科学院院士,美国国家工程院院士,美国艺术与科学学院院士。现任美国卡内基梅隆大学计算机科学学院教授。2019年5月16日,Manuel Blum在第三届世界智能大会上,以“迈向有意识的人工智能,受神经科学启发的计算机体系结构”为题展开演讲。Manuel Blum:朝着有意识的人工智能发展,这是电脑的架构,是由一个神经科学家所开发的。这是一项联合研究,我们就这个理论也发布了一篇论文。我们所讲的认知神经科学,要求我们去理解大脑的运作。1980年,Bernard Baars提出这样的一个理论。我们去理解所开发的项目,也就是全球空间模型,这个模型可以帮助我们更好地理解什么是意识。而且有一个正式的计算机架构,因为这个模型的启发而得以开发出来。这个模型是由认知神经科学家所提出来。基于这个模型可以开发出更为灵活高效的机器,这也是未来机器发展的走向。

美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?

曼纽尔·布卢姆(右一)我在这里探讨的是意识。为什么要讲意识?这个架构和意识又有什么关系呢?我们认为意识能够让人有能力和灵活性。同样基于意识的架构,能够赋予计算机和机器人以非常强大的能力和灵活性。这里有很多的学生,我希望你们未来能够打造出有意识的电脑。首先,什么是意识?人的意识或者人的感知能力,就是我们所注意到的任何事情。无论是处于清醒状态还是睡眠状态,当然如果你睡觉的时候没有做梦,那是没有意识的。但是只要你能够看到、听到、感受到、闻到、品尝到,这都是意识。你的感受、你的喜悦、你的悲伤、你的恐惧,这都是意识。我们内心的自我独白也是意识。我们每天无时无刻不在自己内心和自己进行对话。我们在晚上做梦的时候会梦到各种各样的图像,这些图像看上去栩栩如生,反映出我们大脑的故事。基本上我们大脑内部所感知到的东西,这也是意识。我们举几个例子。什么是有意识的计算?什么是没有意识的计算?你们去参加过party吗?当你看到一个人,感觉非常面熟就是不知道他叫什么名字。他叫什么名字呢?想不起来。你没有在意这件事,算了吧,想不起来就想不起来吧。但是过了半小时,你突然想起来他叫什么名字了。这就是你的潜意识或者无意识地在进行计算。如果我们生命中没有意识,那什么样的状态?就是睡觉,而且是没有梦的睡觉。有一种疾病就是人有意识,但是却看不到东西。患者的视觉功能是正常的,但是他们却看不到东西,这就是所谓的盲视。患者看到东西却没有意识,因此觉得自己是盲人。但是他们真的是盲人吗?把患者放到一个房间,这个房间有入口,里面有很多的障碍物,让他们避开这些障碍物,到房间的另一端,他们是能够做到的。他们往往做到之后也感到非常惊奇,觉得难以置信。

美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?

图片来自大科技意识让我们的生命充满了活力。意识来自于哪里?认知神经科学家Bernard Baars指出,意识来自大脑的结构。这里讲的不是神经元,而是在神经元更基础之上,更高一个层面的架构系统设计。神经科学家于1989年提出来一个理论叫做剧场意识,这是一个聪明绝顶的理论,就是以剧场作为类比来描述“什么是意识”。意识就是在舞台上的演员凭借短期的记忆从事一系列的表演。短期记忆,一个非常非常短的记忆,它就是你的意识。舞台上的演员凭借这个短期的记忆在进行表演,有很多很多的观众坐在暗处观看。这些观众不见得有意识,那这就是长期意识,长期记忆。基于这个理论进一步的完善,让它成为一个正式严谨的理论。我们看一看,左边是输入,我从上面开始讲吧。这个顶端有一个中央指挥员,就像是一个导演,剧场上这些演员怎么调动由他说了算。右边的这个图像是我们短期记忆,也就是短暂的存储,短暂的信息库存。基于此,我们再进一步地前进到输出这个环节。在最下面,是各种各样的长期记忆处理。这是个聪明绝顶的模型。我多年来就想找到这样的模型,但是一直没有找到。后来幸运的是Bernard Baars发明了这个模型,但是这不是一个“放之四海皆准”的蓝图,你不能凭着这个模型就造出一个有意识的机器。作为计算机科学家,我和其他的联合研究员对这个模型的完善也做出一些贡献,就是对人工智能、智能图灵机器给出一个正式的定义,而且有相应的理论。有意识的图灵机器不是要做无法计算的任务,这是没办法做到的。只是能够把那些可以计算的任务以更加高效的方式做出来,能够给我们提供一个打造有意识的机器的图纸,能够让我们更好地去理解意识,让我们知道为什么机器有可能是变成有意识的。现在,这样的机器已经在建造之中,至少有一个这样的软件。有两个团队在做,其中一个团队负责人是华盛顿大学的教授,另外一个团队负责人是哈工大的王长喜教授。这是意识的架构,由简单的图灵机器所启发的。还有Bernard GWM的模型,这两者结合在一起我们就可以对有意识的图灵机器给出一个定义,界定已具备的几个特点。这里我们看一看一个正式的、有意识的图灵机器。在这上面有一个钟表在计时间。每一个有意识的机器,它的每一步都在进行计算,而且在周遭有一个环境,包括有意识的个体本身。有意识的AI,有7个层级,像输入输出、短期记忆、长期记忆、向下的数向上的数。这里我用一个深入浅出的方式来讲,给大家看一个图表,就像Bernard的图表一样。这是有意识的图表机器架构,看起来像Baars提出的模型,短期记忆是黄色的部分,这是我们感知到的有意识的部分。中央指挥官在最上面这个导演我们是没有的,在我们的机器中取消了这个东西,直接输入,从这条直线没有直接输入到短期记忆,在这个模型中短期记忆并没有直接的输出。但是我们有外界的输入进入下面长期记忆,长期记忆也在运作。长期记忆处理发出信号产生产出。长期记忆的处理经历了某种类型的竞争,来决定到底哪些东西是可以进入到短期记忆。一旦进入短期记忆,就要进行广播,向所有的长期记忆处理器进行广播。我们提出一个观点就是,我们所开发出的这种意识,短期记忆中的东西都进行广播,向所有的长期记忆处理器进行广播,让长期记忆知道你对什么东西是有意识的。这就是竞争的进行。而这个竞争必须要简单地竞争,而且要求的速度非常快,几十亿个长期记忆进行竞争,经过竞争后只有一个长期记忆进入短期记忆,所以要非常地快。短期记忆非常短,就是一个小块。大家知道小块是什么意思吗?经济学家经常用这个词,这个小块也就是所谓的数字或者一个词或者一个字母,或者是一个字母表比如说英文的字母表。我们对字母表其实是没有意识的,我们只知道ABCD,我们可以一直数下去,但是这个小块呢,指的是一个提示器。它能够指到你想要的东西。比如说下面减5,如果是痛苦的话,减7,如果是高兴的话,又是另外的一个数值。那5比3要大,所以痛苦的分值要比高兴的分值要高,所以痛苦就在竞争中脱颖而出,胜出进入短期记忆。我们可以看到像恐惧是负5的得分,所以他们胜出了,在竞争中向上传负7,痛苦的分值是负7,在竞争中胜出,往上传,往短期记忆传。所以像这样的活动持续不断的,总是有些东西在竞争中胜出,而进入短期记忆。在这个模型里面有这样一个小块,会进入短期记忆,那心理学家就说短期记忆能够容纳2个小块,但是在我们模型里面我们只设置了一个小块。

美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?

图片来自网络我给大家展示一下,长期记忆处理器到底长什么样子。它对外界的输入进行采集,然后再经过竞争,输入到短期记忆,再形成产出,进入外界。这是一个很有意思的点,当一个婴儿出生的时候,是没有这样的连接的。当有知觉的、有意识的图灵机器刚刚创造出来的时候也是没有知觉的,就像一个刚刚生出的婴儿一样。但是随着婴儿不断的成长,也就是随着机器不断的成长,这些处理器反反复复的进行竞争,反反复复地在竞争中胜出,进入短期记忆。比如说其中一个长期记忆处理器,处理的东西胜出了,然后他会反反复复问一个问题。其他的一些处理器会试图回答这个问题,产生了想要的答案。比如说和A回答B的问题,A和B就形成链接。这样一个链接让意识的程序逐渐变成了无意识的程序,然后就中断了,基本上就意识不到它的存在了。接下来给大家看一个例子,展示它运作的机制。这里可以看到模型,有意识的模型。比如说你摸了一个炉子,你的手指被烫了,这个输入就进入长期记忆的处理器,被标注定义为痛苦。这个痛苦传到旁边的处理器,很快就产生了输出。这个输出就是你把手很快从滚烫的炉子边挪开。与此同时,这个产出也会进入到短期记忆。因此,你只是会在你被烫的时候才感知到这个痛苦。然后进行广播,其他的一些处理器,比如控制水的处理器,这个东西太烫不能喝。那到底什么是有意识的图灵机器?它对什么有意识?就是短期记忆有意识,它的小块能够对信息所在的地方进行定位。为什么短期记忆如此短,如此微小,这也是有答案的。哪些东西能够进入短期记忆?长期记忆的处理器是如何产生的?什么样的长期记忆处理器才能够形成意识?这有很多很多的问题,都是需要解答的。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。

作者文章