《主算法》作者Pedro Domingos:人工智能的问题是,我们根本不知道我们不知道什么

fcfaaf51f3deb48f7ade01b2f71f3a292df57823

2017/12/29 • 人物, 头条, 热点

人物观点:

图灵测试实际上是个坏主意,原因是它混淆了智能和人类的关系。你可以通过欺骗一个人来证明你是一个人,从而证明你是智能的,这种想法是很奇怪的。这就好比说除非一架飞机能骗过鸟儿,让鸟儿认为它是一只鸟,否则就不能说飞机会飞,这没有任何意义。真正的智慧可以有多种形式,但不一定是人类的形式。

Pedro Domingos是华盛顿大学教授,还是《主算法》(The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World)一书的作者。Pedro Domingos谈到了主算法、机器创造力,以及在人工智能革命之后创造出的新的工作。

人工智能到底是什么,人工智能与人工草坪的”人工”有什么不同?

【问】:什么是人工智能?

【Pedro Domingos】:人工智能正在让计算机做一些传统意义上需要人类智慧的事情,比如推理、解决问题、常识知识、学习、视觉、语言理解、计划、决策等等。

【问】:这里的“人工”和人工草坪中的人工是等同的吗?是不是说它并不是真正的智慧,只是看起来很“智能”?还是说它是真的智慧,“人工”只是代表它是由我们创造出来的?

【Pedro Domingos】:这是个有趣的类比。我以前从没听说过。我不认为人工智能和人工草坪是一回事。我认为这是真正的智慧。它只是不同于传统意义上的智慧。我们习惯于认为人类的智慧,或者动物智慧,是地球上唯一的智慧。而现在发生的是一种不同的智慧。这有点像,潜水艇真的会游泳吗?或者它是假装在游泳?实际上,它并不是真的在游泳,但它仍然可以使用不同于游泳的方式在水下航行。或者,即使飞机没有扇动翅膀,它也会飞对吗?它不会扇动它的翅膀但它确实会飞——而人工智能有点像这样。实际上,人工智能在某些方面是智能的,这些方面与人类智慧不同。在很多领域的人工智能已经超过了人类智慧,所以我想说它们是不同形式的智能,但它确实是一种智能的形式。

【问】:那么你会如何描述现在的技术现状?

【Pedro Domingos】:在科技和技术进步中,往往会出现井喷。先是有很长一段时间的缓慢进展,然后是非常突然、非常迅速的进步。在人工智能领域,我们无疑正处于一个非常快速的发展阶段,而人工智能领域的发展也已经有很长一段时间了。人工智能领域已经有五十年历史了,我们在80年代把它叫做“AI spring”,因为那时候它看起来可能会真的腾飞。但这并没有真的发生,问题出在当时的人们正试图用所谓的“知识工程”来做人工智能。如果我想要一个人工智能系统来做医疗诊断,我必须采访医生,摸清程序,因为医生有着关于诊断知识和关于计算机使用规则的了解,而现如今这一点并没有改变。

最近发生的变化是,我们有了一种新的人工智能的方式,那就是机器学习。计算机不再通过编程来完成任务,而是通过对数据学习来编程。所以现在关于医疗诊断我们要做的是,给电脑一个有病人记录的数据库,其中包括他们的症状和测试结果,以及最终的诊断结果。仅仅通过这些数据,在三十秒内,计算机可以比人类医生更好地学习医学诊断。因此,多亏了机器学习,我们现在进入到了一个非常快速的发展阶段。此外,由于学习算法已经变得越来越好,而且非常重要的一点是,机器学习的美妙之处在于,因为智能来自于数据,所以随着数据呈指数级增长,人工智能系统变得更加智能,基本上不需要其他额外的工作。所以现在人工智能变得非常强大。这多亏了我们所拥有的大量数据。

当然,另一个不可或缺的因素是计算能力。我们需要足够的计算能力将所有数据转化为智能系统,而我们确实拥有这样的计算能力。因此,学习算法、大量数据和计算能力的结合,才是当前取得进步的原因。

在人工智能领域,我们还需要取得更多的突破

【问】:你认为我们能在这波浪潮中度过多久?你认为机器学习是通往AGI的路径吗?我的意思是,我们还有,十年,二十年,或者四十年的时间是围绕机器学习进行的吗?或者,我们是否需要另一种突破?

【Pedro Domingos】:我认为机器学习绝对是通往人工智能的途径。但我认为…我认为在人工智能领域会有一些人会不同意这种观点。你知道,你的电脑可以像你想的那样聪明。如果它不能学习,三十分钟后它就会落后于人类。所以,机器学习对于实现人工智能来说是至关重要的。事实上,奇点的整个概念都是I.J.古德在50年代提出的,他当时有了一个可以学习的机器的想法,可以让一台机器通过学习而变得更好。这样一来,你就有了这一系列越来越好、越来越智能的机器,直到它们把人类落得越来越远。而现在来讲,这要花多长时间呢?这是很难预测的,因为这种进步不是线性的。我认为,目前的发展进程可能会停滞不前。我不认为我们已经接近人工智能的边缘了。我们已经走了一千英里,但剩下的路还有一百万英里。我们还需要更多的突破,但没有人知道这些突破会从何而来。

从最乐观的角度来看,或许这一切都将在未来10年或20年内发生,因为如果进步接连出现,我们很快就会实现。从更悲观的角度来看,这太困难了,可能永远也不会发生。如果你对人工智能专家进行调查,他们绝不会说这将会是几十年。但事实是,没有人确切地知道答案。

对话《主算法》作者:图灵测试是个坏主意

【问】:有趣的不是人们不知道,也不是他们的预测五花八门,而是那些有见识的人做出的预测,最近的是五年,而最遥远的是五百年。这对你来说意味着什么呢?这就像,如果我去干洗店,我说,“嘿,我的衬衫什么时候可以洗完?”他们说,“在五天到五百天之间。”我会说,“好吧……这是什么情况。”你认为为什么在多久能实现AGI的问题上,这些观点之间的差异这么大?

【Pedro Domingos】:当干洗店清洁你的衬衫时,这是一个众所周知的,不断重复的过程。他们知道这要花多长时间,并且持续做同样一件事情,对吧?没有什么是未知的。人工智能的问题是,我们根本不知道我们不知道什么。我们不知道我们错过了什么,所以有些人认为我们并没有失去那么多。这些人都是乐观主义者,他们会说,“我们只需要更多的数据。”是这样吗?在80年代,他们说,“我们只是需要更多的知识。”但事实并非如此,这只是乐观主义者的看法。更悲观的看法是,这是一个非常非常困难的问题,而我们只是触及了表面,所以不确定性来自于我们甚至不知道我们不知道什么东西。

【问】:我们当然不知道大脑是如何工作的,对吧?我们有一些模糊的概念,比如它的不同部分分别做了什么,但就一个想法的具体编码方式而言,我们并不知道。你认为我们需要更多地了解我们自己大脑的原理,以用来实现AGI吗,还是说,“不,那是苹果和橘子的区别。大脑的运作方式并不重要。我们正在以完全不同的方式构建AGI。”

【Pedro Domingos】:不一定。人工智能有不同的思想流派,这是我在书中谈到的部分内容。在人工智能领域,有一些人叫作连接主义者,他们的整个想法就是逆转工程师的大脑。他们认为最短的路径是,“逆向推理,搞清楚它是怎么工作的,在电脑上建立这一过程,然后我们就实现了智能。”这绝对是一种合理的方法。但我认为这是一种非常困难的方法,因为我们对大脑的运作机制知之甚少。在某种程度上,也许它是在试图通过解决最困难的问题来解决问题。关于人工智能还有一种其他的想法,也就是那些象征主义者,他们的想法是,“不,我们不需要在低层次上理解事物。”事实上,如果我们试着这样做,我们可能就会迷失。我们必须在更高层次的抽象中理解智力,这样我们才能更快地实现它。所以不要管大脑是如何工作的,这真的不重要。再一次,大脑和飞机的类比是一个很好的例子。象征主义者说的是,“如果我们试图制造出能扇动翅膀的机器,我们就永远不会拥有它们。”我们需要做的是了解物理和空气动力学的规律,然后根据这个原理制造机器。”所以这是不同的思想流派。我认为有不同的想法是好的,我们可以看看谁先到达最终目标。

什么是主算法,它是打开所有门的万能钥匙吗

【问】:刚刚你提到了你的书,《主算法》,这当然是这个领域的必读书目。你能给不熟悉它的听众,概述一下什么是主算法吗?我们在寻找的是什么?

【Pedro Domingos】:当然可以。对于普通读者来说,这本书基本上是一本机器学习入门。它的受众不仅仅是那些专业人员,还有商人、政策制定者、公民和那些有好奇心的人。这本书中谈到了机器学习在世界上已经产生的影响。很多人认为这些都是科幻小说,但其实这已经在他们的生活中存在了,他们只是不知道而已。它还着眼于未来,以及我们可以期待的事情。但它主要是对我刚才描述的内容的介绍。目前,机器学习有五种主要的思想流派。第一种流派主张对大脑实施逆向工程;第二种流派想要模拟进化;第三种希望通过将科学方法自动化来进行机器学习;第四种流派主张使用贝叶斯统计思想,第五种流派希望使用类比推理,就像人们在日常生活中所做的那样。然后我分析了这些不同的方法分别能做什么,不能做什么。

“主算法”的名称来源于这样一种概念,即机器学习算法是一种主算法,就像一个万能钥匙能打开所有的门一样。一种学习算法可以做各种不同的事情,但用的其实是同一种算法。这就是机器学习的非凡之处,那就是,在传统的计算机科学中,如果我想让计算机下国际象棋,我必须编写一个程序来解释如何下象棋;如果我想驾驶一辆车,我必须编写一个程序来解释如何驾驶一辆汽车。但在机器学习中,同样的学习算法可以用来学习下棋或开车,或者做一百万件不同的事情。只要通过适当的数据学习就可以实现了。每一个机器学习流派都有自己的主算法。那个流派里比较乐观的成员相信,你可以用这个主算法来做任何事情。我在书中提出的观点是,每一种算法都只能解决一部分问题。我们需要做的是把它们统一成一个宏大的机器学习理论,就像物理学有一个标准模型,而生物学有一个中心法则一样。然后,这就是真正的主算法。我也提出了一些算法,而且我认为我们已经接近它了。

【问】:我在书中发现的一件事是,你一开始也反复说过,主算法对于很多人来说都是可以涉足的。你的意思是说,“这本书中的内容,仍然是一个门外汉仍能取得一些突破的领域。”你能跟我讨论一下这个问题吗?

【Pedro Domingos】:当然,这也是让我进入机器学习的原因之一,这与物理、数学或生物学不一样,因为这些都是非常成熟的领域,只有当你拥有博士学位后,你才能真正做出贡献;而计算机科学、人工智能和机器学习领域仍然尚未发展成熟。所以,即使是生活在车库里的一个孩子,也可能会有能够带来变革的伟大想法。我希望这种情况发生。我认为,即使我们发现了这一主算法,也就是那五种思想的结合,我们仍然会漏掉一些非常重要且非常深刻的想法。我认为,在某些方面,来自外部的人士比我们这些专业的机器学习研究者更有可能找到这一主算法,并且他们已经在思考这些特定的思想流派的轨迹了。所以,我写这本书的目的之一是让那些不是机器学习专家的人思考机器学习,他们也许能够产生出下一个伟大的想法,让我们更接近于AGI。

【问】:而且,你在书中也指出了为什么你相信我们知道这样的事是可能的,而你的证据之一就是我们的智慧。

【Pedro Domingos】:完全正确。

【问】:你能详细谈谈吗?

【Pedro Domingos】:是的,这当然是一个非常有野心的目标,人们在一开始应该就有点怀疑,对吧?他们会说,这真的可能吗,会不会只是像魔法石或永动机一样?有些人认为这是不可能的。我认为有很多原因让我确信这是可能的,其中之一就是我们已经有了现成的证据。而一个现有的证据就是我们的大脑,对吧?只要你相信所有科学家都能相信的简化论,那么你的大脑运作方式就可以被表达为一种算法。如果我把这个算法应用到电脑里,那么这个算法就可以学习你的大脑所能做的一切。因此,至少在这个意义上,主算法的一个版本已经存在。另一个版本的说法是进化论。进化创造了我们和地球上所有的生命。它本质上是一种算法,我们大致了解这个算法是如何工作的,所以这是另外一个主算法的实例。

此外,除了这些经验上的原因之外,还有一些理论上的原因告诉我们,主算法是存在的。其中之一就是,对于这五个流派中的每一个,他们的主算法都有一个定理,也就是,如果你给这个算法提供足够的数据,它就可以学习任何函数。所以,至少在这个层面上我们已经知道了主算法是存在的。现在的问题是,它会有多复杂,我们实现它会有多难?如果这种算法在合理的时间内从合理数量的数据中学习,它能应用地多广泛呢?

【问】:你刚才提到,所有的科学家都是还原主义者。这是必然的吗,比如说,你如果你不是一名科学家,你可以相信类似强涌现的东西吗,你可以不可以说,“实际上你不能把人类的思想理解成单个的原子,然后重构…”

【Pedro Domingos】:对,没错,我的意思是,事实上从某种意义上说,在人工智能领域,我们不可能是还原主义者。我所说的还原主义者的意思是,我们可以把一个复杂的系统分解成更简单的,更小的部分,它们之间相互作用,组成系统。所有的科学和工程都是这样运作的。但非常重要的是,这并不排除突现性质的存在。因此,如果系统是非线性的,那么系统可能不仅仅是其各部分的总和。而大脑是一个非线性系统。这就是我们达到人工智能需要做的。你甚至可以说机器学习是有突现性质的科学。事实上,它在某些地方已经有的一个名字是“自组织系统”。事实上,让人工智能变得困难的因素,也就是我们还没有解决它的原因,就是科学家和工程师将问题划分成了更小的子问题,然后解决子问题,再将解决方案整合在一起。他们采取的是这种分而治之的策略。这在人工智能中是不适用的,因为这些子系统是紧密结合在一起的。所以,这是一个更难的问题,并且有突现性质,但这并不意味着你不能把它划分成这些更小的部分,这只是一个更困难的问题而已。

【问】:我记得Marvin Minsky谈到过,从某种程度上讲我们被骗了,因为那些科学家用几条有限的宇宙基本定律就解释了大部分的物理原理。电力也是这样样。磁力也是一样。这样几条简单的法则就解释了发生的每一件事。因此,人们希望智能也是这样的。我们最终会放弃这个想法吗?

【Pedro Domingos】:是的,所以在人工智能上有不同的观点。我认为,一方面,有些人希望我们能发现一些人工智能的规律,根据些法则可以解决一切问题。另一方面,像Marvin Minsky这样的人认为,智能就是一个大规模的黑客攻击。他甚至有一本书,每一页都用了这样的技巧,而且还有很多本类似的书。我认为,在人工智能领域的大多数人都相信,它是介于两者之间的。如果人工智能只是一堆黑客工具,那么我们永远都不会成功。而且它也不可能只是一堆黑客工具,因为如果黑客攻击的力量强大到可以创造出智慧,那么我们就不能称之为黑客。

另一方面,我们也不能把它简化成几个定律,比如牛顿定律。所以,主算法的想法是,在某一天,我们会找到一个算法来实现智能,但是这个算法不会是一百行代码。它也不会是数百万行代码。你知道,如果算法是成千上万行的代码,那就太好了。这仍然是一个更复杂的理论,比我们在物理学中所涉及到的要复杂得多,但它将比Marvin Minsky想象的要简单得多。

【问】:如果我们找到了主算法……这对人类有好处吗?

【Pedro Domingos】:我认为这取决于我们怎么处理它。和所有的技术一样,机器学习也给我们带来了更多的力量。你可以把它想象成一种超级能量,对吧?电话让我们实现了远距离交谈,飞机让我们在天上飞,机器学习让我们预测事物,并且让技术自动适应我们的需要。如果我们用它来做好事,那么这一切都是好的。如果我们用它做坏事,那结果就不好了,对吧?这项技术本身并没有决定它将如何被使用,而我写这本书的原因之一就是,我认为每个人都需要知道机器学习是什么,以及它能做什么,这样他们就能知道如何使用它。否则机器学习只会给那些真正知道如何使用它的人提供更多的支配权。

如果你回顾一下科技的历史,随着时间的推移,最终好的一面往往会战胜不好的一面,这就是为什么我们今天生活在一个比200年前或2,000年前更好的世界里。但我们必须先让它发生,对吧?它不会像苹果那样直接从树上掉下来。

【问】:所以,在你看来,主算法本质上就是AGI的同义词,因为它可以计算出任何东西,因此可以说它是一个通用的人工智能。它会有意识吗?

【Pedro Domingos】:我不会说主算法是AGI的同义词。我认为它是AGI的推动者。一旦我们有了一个主算法,我们仍然需要将它应用到视觉、语言、推理以及所有这些事情上。然后,我们才能实现AGI。所以,一种思考方式是,这是80/20法则。主算法是20%的工作,能让你得到余下80%的工作,但你仍然需要做剩下的工作,对吧?所以这也许是一种更好的思考方式。

如何判断一台机器是否有意识?

对话《主算法》作者:图灵测试是个坏主意

【问】:好吧。所以,我要更直接地问这个问题。你认为意识是什么?

【Pedro Domingos】:这是个很好的问题。事实是,让意识这个概念变得迷人而又难以理解的是,如果在某一天结束的时候,我清楚地知道某一件事,那就是我是有意识的,对吧?笛卡尔说,“我思故我在,”但也许他应该说“我是有意识的,所以我在。”物理定律甚至可能是错的。但我现在确实是有意识的,这一点是毋庸置疑的。所以,每个人都了解自己的情况。与此同时,因为意识是一种主观体验,所以它不符合科学的方法。当涉及到意识时,什么是“可复制的实验”?这是一方面,另一方面是,意识是一种非常复杂的现象。所以,没有人真正知道它是什么,或者理解它,即使是在相当浅的层面上。现在,我们相信别人有意识的原因是——你相信我有意识,是因为你是一个人,我也是一个人,所以既然你有了意识,我可能也有意识。就是这样的。基于目前这些信息,我现在也可以成为一个机器人,跟你交谈,通过图灵测试。而我完全不需要有意识。

那么,机器呢?我们如何判断一台机器是否有意识?在过去的几十年里,这一直是许多哲学家所探寻的事情。我认为很重要的一点是,一旦电脑开始表现出有“意识”的行为,我们就会把它当成意识来对待,也就是说,我们会赋予它意识。事实上,我们已经做到了这一点,即使是使用非常简单的聊天机器人和诸如此类的东西。所以,就日常生活而言,这并不会等太久。在某种程度上,这种情况会更快发生——人们认为电脑是有意识的,而不认为电脑是真正的智能。因为这就是我们所需要的,对吧?我们把这些人类的属性投射到某种东西上,使它们的行为人性化,哪怕以最简单的方式。

而现在,如果你观察电脑的硬件和那些电路……那里真的有意识吗?我不知道我们是否能回答这个问题。现在,我还没有想到一个好方法。我认为,我们对意识的理解已经足够了,因为我们对大脑的了解已经足够充分了,我们有足够的信心来判断某事物是否有意识。在这一点上,我认为我们将把这些标准应用到这些机器上,这些机器,至少那些被设计为有意识的机器,将通过测试,所以,我们相信机器有意识。但是,你知道,我们永远不能完全确定。

【问】:那么,你认为一般化的人工智能需要意识吗?

【Pedro Domingos】:我认为有很多人工智能和许多人工智能应用程序不需要意识。举个例子,如果我让机器学习系统去解决癌症——这是我们想要做的事情之一——治愈癌症,机器学习是治疗癌症的重要一环——但我不认为它需要意识。它需要进行大量的搜索,了解分子生物学,尝试不同的药物,也许是设计药物等。所以,90%的人工智能都不涉及意识。

有些种类的人工智能和人工智能的一些应用需要意识,或者与它们类似的东西,比如室内机器人。我们想要一个能做饭、洗碗、铺床的机器人。为了完成所有这些事情,机器人必须具备人类所有的能力,必须整合所有的感官、视觉、触觉、观察力、听觉和其他东西,然后根据这些来做出决定。我认为这要么是意识,要么就是与意识难以区分的东西。

【问】:你认为如果这种情况发生,会出现问题吗?比方说你制造出机器人Rosie,你不知道它是真的有意识,还是只是表现得像有意识而已。你认为在那个时候,我们是否必须要问这样一个问题:“我们奴役这些可能具有意识的机器,让它们帮我们清理马桶,这样真的合适吗?”

【Pedro Domingos】:好吧,这取决于你认为什么是奴役,对吧?所以,一种看待这个问题的方法,也是我看待这个问题的方法,那就是这些仍然只是机器,对吧?仅仅因为他们有意识,并不意味着他们有人权。人权是属于人类的。我不认为有机器人权利这样的东西。更深层的问题是,是什么赋予了这些权利?有一种观点认为,正是知晓痛苦的能力赋予了你权利,因此动物应该拥有权利。但是,如果从历史的观点来看,关于动物拥有权利的想法,即使是在50年前,也会显得很荒谬。所以,按照同样的标准,也许50年后,人们会想让机器人拥有权利。事实上,有些人已经在谈论这件事了。我认为这是一个非常奇怪的想法。通常人们会说,机器会是我们的朋友,还是我们的奴隶?我们是平等的吗?他们会比我们低一等吗?实际上,我认为整个问题的框架都是错误的。你知道,机器人既不与我们平等,也不是我们的奴隶。它们将是我们的延伸,对吧?

机器人是技术,它们增强了我们的力量。我认为这并不是说机器会有意识,而是通过机器,我们将拥有更强大的意识。以同样的方式,例如,互联网已经给了我们一个比没有互联网的更强的意识。

关于AI取代人类大量的工作岗位:有些工作肯定会消失,但新工作也会出现

对话《主算法》作者:图灵测试是个坏主意

【问】:因此,机器人将我们引向一个每天都在新闻中出现的话题,那就是自动化和技术进步将会比创造新的就业机会更快地消除就业岗位,或者,它将会消除就业岗位,取而代之的是普通人难以胜任的工作岗位。关于这一点你怎么看?你认为未来会怎样?

【Pedro Domingos】:我认为在这里我们必须区分短期和长期,而我指的是未来十年左右的时间。在短期内,我认为一些工作将会消失,就像过去的工作已经消失于自动化一样。现在的人工智能就像吃了兴奋剂一样。所以我认为,短期内将会发生的事情与过去发生的事情并没有太大的不同。有些工作会被自动化,所以有些工作会消失。但很多新工作也会出现。人们往往看到那些消失的工作,而没有关注到新出现的工作。想那些应用开发者,今天有成千上万的人靠开发应用谋生。而在十年前,这份工作根本不存在。五十年前,你甚至无法想象这样的工作。两百年前,有99%的美国人是农民,后来农业得到了自动化,如今,只有2%的美国人从事农业工作。这并不代表其他98%的人处于失业状态。他们所做的工作都是人们以前无法想象的。我认为现在发生的一大部分事也是这样。我们将看到全新的职业类别出现。我们还将看到,在更平凡的层面上,对大量现有工作的需求也会增加。例如,我认为卡车司机应该为他们的未来感到担忧,因为自动驾驶汽车即将到来,所以这个行业可能走到终点。仅仅在美国就有数百万卡车司机。这是最普遍的职业之一。但现在,他们会怎么做呢?人们会说,“你不能把卡车司机变成程序员。”但你不需要把他们变成程序员。想想自动驾驶汽车普及后会发生什么,因为卡车是自动驾驶的,货物的成本会更低。商品的价格会降低,人们的口袋里会有更多的钱,他们会把钱花在其他东西上。比如说,人们会买更大、更好的房子。因此,对建筑工人的需求将会增加,其中一些卡车司机将成为建筑工人,等等。

你知道,说了这么多,我认为在短期内最重要的事情会发生在工作岗位上,无论是那些会消失的,还是会出现的,大多数的工作都会被人工智能改变。我的工作方式将会改变,因为有些部分会自动完成,但现在我可以做的事情能够比没有自动化时做得更好,或者做得更多。所以,每个人都需要思考的问题是,我的工作中哪些部分是可以自动化的?实际上,保护你的工作不被自动化的最好方法就是你自己把它自动化……然后思考你能用这些机器学习工具做什么。

拥有自动化技术就像拥有一匹马。你不会试图跑得过马,但你会骑马。我们必须利用自动化,从而以比现在更好的方式来完成我们的工作。

【问】:所以,听起来你并不对未来的就业前景感到悲观对吗?

【Pedro Domingos】:我很乐观,但我也很担心。这其实是一个很好的组合。我认为,如果我们悲观,我们就什么都不会做。再一次,如果你回顾一下科技的历史,在最后都是乐观主义者让世界变得更美好,而不是悲观主义者。但与此同时,盲目的乐观是非常危险的,对吧?我们需要不断地留意所有可能出错的事情,并确保它们不会出错。所以我认为乐观和忧虑的结合是正确的。

今天奇点的概念偏离了,我们正处在S曲线的中间

【问】:有些人说,我们会找到一种方法,在精神上和人工智能结合起来。这是一个合理的问题吗?你怎么看?

【Pedro Domingos】:我想这就是将要发生的事情。事实上,它已经在发生了。我们将一步一步地与我们的机器融合在一起。你知道,就像电脑是一台比电视更接近我们的机器。智能手机比台式机更接近我们,而笔记本电脑则介于两者之间。我们已经开始看到像谷歌眼镜和增强现实这样的东西,从本质上说,电脑是在扩展我们的感官,通过扩展我们的一部分来做事情。埃隆·马斯克的公司将在神经元和计算机之间建立一个接口,但事实上,这在研究实验室里已经存在了。我有同事也在研究这个问题。它们被称为大脑-计算机界面。所以要一步一步来,对吧?思考这个问题的方法是,我们是半机械人,对吗?人类实际上是半机械生物。从出生的第一天开始,我们就与我们的技术相结合。如果我们不能做一些像点火和投掷长矛这样的事情,我们的生理机能也会有所不同。所以这是一个持续不断的过程。技术是我们的一部分,它在未来的占比也会越来越多。还有互联网这样的东西,我们正在把自己连接到一个范围更大的地方。人类本身就是一种新兴的现象,拥有互联网和计算机可以让这种现象上升一个层次。我在想,这是怎么发生的,什么时候可以加入竞争,但事情确实是这样发展的。

【问】:所以,你刚才提到了奇点。你相信这是人们普遍认为的事情吗?在不久的将来,我们将会有这样的观点吗,我们看不到任何东西,因为我们没有任何参照物?

【Pedro Domingos】:我不相信奇点会在这些条件下发生。因此,这种呈指数增长的进步不可能一直持续下去,因为这在物理上是不可能的,对吧?没有指数可以永远持续下去。它总有一天会变平。所有的指数都是所谓的“S曲线”。它们的运行速度越来越快,这是以前所有技术浪潮的样子,但后来它们的速度减慢了,到最后会趋于平稳。并且,在某一时刻,事情会变得完全无法理解…我也不相信,因为总会有我们能够理解的部分,而且任何智力都有极限——不管是人类还是非人类。

从这个角度来看,奇点已经发生了。一百年前,最先进的技术可能是汽车,对吧?而我完全可以理解汽车是如何工作的。今天我们已经有了科学技术,比如我们今天拥有的计算机系统。没有人能理解整个体系。不同的人理解不同的部分,特别是机器学习,机器学习算法最值得注意的一点是他们可以很好地完成复杂的事情,而我们不知道他们具体是怎么做的。然而,我们对此感到满意,因为我们并不需要关心它是如何完成的,我们只关心医疗诊断是否正确,或者病人的癌症是否被治愈,或者汽车是否正确驾驶。所以我认为奇点的概念有点偏离了。

话虽如此,但我们正处在这条S曲线的中间。我们看到了非常迅速的进展,到这一进程结束的时候,它将会产生非常、非常不同的变化趋势。

【问】:怎么会这样呢?

【Pedro Domingos】:所有这些我们一直在谈论的事情。我们周围会有智能机器。不仅是人形机器,还包括移动设备中的智能,对吧?就像今天你可以用电来做任何你想做的事一样,只要插上插座,你就能接入智能。实际上,领先的科技公司已经在努力实现这一目标。因此,将会有更强大的智能来做所有的事情。每个人都有一个家用机器人,就像他们有一辆车一样。我们将拥有互联网所能带来的整个过程,而且互联网上的智能是可以实现的。如果你愿意的话,会有像这样更大的新生事物,那不只是个人或社会。但同样,我们很难想象会发生什么,但这确实是会发生的。

【问】:你知道的,每当人工智能掌握了一款游戏,它总会成为新闻。首先是象棋,然后就有了Jeropardy,然后又有了AlphaGo,最近又会涉及到扑克。我认为游戏是一个很自然的地方,因为我想这是一个有限的空间,有非常严格的规则,然后有很多训练数据来教它如何在其中发挥作用。机器学习不适合用来解决这些问题吗?我的意思是,从哲学的角度来说,不管你的算法有多好,你有多少数据,或者电脑有多快,这都不是解决这个问题的方法。

【Pedro Domingos】:当然,有些问题比其他的要困难得多,正如你所说的,游戏更容易,因为它们涉及的范围非常有限。这就是为什么我们能在游戏上做得很好。实际上,在今天,对机器学习和人工智能的总结是,它们对那些定义良好且有约束范围的任务很有帮助。

人们更擅长的是那些需要了解世界的知识的事情,他们需要常识,他们需要整合很多不同的信息。然而我们还没到那一步。我们没有能够做到这一点的学习算法,所以我们今天拥有的学习算法对某些事情当然是有好处的,但不是其他的。但是,如果我们有主算法,那么我们就能做所有这些事情,我们正在朝着它们取得进展。所以,让我们拭目以待吧。

图灵测试是个坏主意,它混淆了智能与人类的关系

对话《主算法》作者:图灵测试是个坏主意

【问】:每当我看到聊天机器人或试图通过图灵测试的东西时,我总是会输入相同的第一个问题,那就是“太阳和硬币哪个更大?”还没有哪个机器能正确地回答这个问题。

【Pedro Domingos】:嗯,没错。因为他们没有常识。电脑在某些方面能做的事情是令人惊奇的,而它们做不到的事情也同样让人惊讶。就像这些简单的常识逻辑一样。在某种程度上,我们从人工智能中学到的一个重要教训是,把医生或律师的工作自动化其实很容易。对人工智能来说,很难做的是三岁的孩子能做的那些事情,对吧?如果我们有一个机器人宝宝,能做一岁大的孩子能做的事,并以同样的方式学习,我们就算解决了人工智能这一问题。让机器人做这些我们认为理所当然的事情要困难地多,比如捡起一个物体,或者在不绊倒的情况下四处走动。我们认为这是理所当然的,因为我们花了五亿年的进化时间来发展这些功能。它非常复杂,但对我们来说,它低于意识水平。对我们来说,我们意识到的事情是,我们必须上大学,但我们不是很擅长这些;我们是最近才学会了做这些事情。而这些事情电脑可以做得更好。

所以,在人工智能的某些方面,困难的事情是容易的,容易的事情又是很难的。

【问】:如果有什么东西最终通过了图灵测试,这是否意味着什么?如果是这样,你认为什么时候会发生?它什么时候会说,“太阳显然比硬币大。”

【Pedro Domingos】:好吧,恕我直言,艾伦图灵是一位伟大的天才,也是一位人工智能的先驱。在人工智能领域,包括我在内的大多数人都认为,图灵测试实际上是个坏主意。图灵测试是个坏主意的原因是它混淆了智能和人类的关系。如果你仔细想想,你可以通过欺骗一个人来证明你是一个人,从而证明你是智能的,这种想法是很奇怪的。这就好比说除非一架飞机能骗过鸟儿,让鸟儿认为它是一只鸟,否则就不能说飞机会飞。这没有任何意义。所以,真正的智慧可以有多种形式,但不一定是人类的形式。所以在某些方面,我们不需要通过图灵测试来实现人工智能。在其他方面,图灵测试其实很容易通过,在某些标准下,已经有人通过了图灵测试,但没有人会称之为智能。与某人交谈五分钟,让他们误以为你是一个人,其实并不那么难,因为人类非常擅长将人性投射到任何能表现人类的东西上。事实上,即使是在60年代,也有一种叫ELIZA的东西,它的做法基本上就是在你说的内容中挑出关键词,然后把这些回复给你。如果你和ELIZA聊五分钟,你会认为这是一个人。

【问】:尽管ELIZA的发明者Weizenbaum的观察发现,即使人们知道ELIZA只是一个项目,他们仍然对它产生了情感依恋,这就是他发现的令人不安的东西。

【Pedro Domingos】:正是如此,人类有一种不可思议的能力,将事物视为人类对待,因为这是我们唯一的参照点,对吧?整个想法通过类比推理,如果有一样东西的行为有一点像人类——因为宇宙中没有其他东西可以与之相比——我们就会开始把它当作一个人来对待,并把更多的人类特质投入其中。顺便说一下,这也是一旦公司开始制造机器人之后会发生的……这已经在聊天机器人身上发生了,比如Siri和Cortana,等等,它将会在家用机器人身上发生,并且程度可能更高。将会有一场让机器人变得越来越像人类的竞赛,因为如果你对我的产品形成一种情感依恋,那这就是我想要的,对吧?我就会以更高的价格卖出更多产品,等等。所以,我们将会看到像人类一样的机器人和人工智能——不管这是好事还是坏事,都是另一回事。

创造力是什么,人工智能有创造力吗

【问】:你认为创造力是什么,从定义上来说,AGI不会是创造性的,对吧?它可以写一首诗,或者…

【Pedro Domingos】:是的,所以,从定义上说,AGI是有创造力的。有一件事你经常听到,但不幸的是,它是错误的,“我们可以把这些琐碎的日常工作自动化,但是创造力是人类的东西,永远不会被自动化。”这是一种表面上看似合理的概念,但事实上,已经有一些例子与这些观点相悖,比如可以作曲的电脑。David Cope是美国加州大学圣克鲁兹分校的教授。他编写了一个电脑程序,可以根据你选择的作曲家的风格创作音乐。他做了一个测试:他演奏了三首曲子,一个是真正的莫扎特的曲子,一个是由人类作曲家模仿莫扎特弹奏的曲子,另一个是由电脑生成的,他在我参加的一个会议上做了这个实验,他让人们投票选出哪个是真正的莫扎特,而真正的莫扎特赢了,但第二名实际上是电脑。因此,电脑能比专业的、受过高等教育的人类作曲家更能模仿出莫扎特的作品。电脑制作的很多画作也非常漂亮和引人注目。如今的计算机还可以编写新闻故事。有一家叫做Narrative Fiction的公司,能够专门为你写新闻故事,福布斯和财富杂志之类的公司——我忘记了是哪一个——真的发表过一些他们写的东西。所以这虽然看起来有些遥远,但我们会实现的。此外,在其他领域还有一些案例,比如国际象棋和AlphaGo就是著名的例子。当加里·卡斯帕罗夫和李世石被电脑打败时,他们都表示说:“哇,电脑太有创意了。电脑想出了我从未想到过的这些招数,这些招数一开始看起来很傻,但结果非常不错。”计算机已经在数学、定理和证明等方面做了很多事情——如果人类做到这些事情,就会被认为是极富创造性的。所以,自动化的创造力其实并没有那么难。

【问】:有趣的是,当卡斯帕罗夫第一次说这看起来很有创意时,他的意思是,IBM作弊了,人们对它进行了干预。而IBM并没有这样做。但是,这恰恰证明了……

【Pedro Domingos】:实际上有两个阶段,对吧?他说,起初,他很怀疑,因为,人类怎么可能不这样做呢?但后来,在比赛结束后,他输了,等等,如果你还记得深蓝的走法,它的走法是近乎疯狂的,因为,当然了,你知道,无论如何,五步之后…而卡斯帕罗夫说,“我能感觉到一种新的智力对我的影响。”这对我们的人工智能流派来说非常有趣,因为我们它的原理是什么,对吗?也就是搜索算法和一大堆我们非常了解的技术。有趣的是,从外表看,这似乎是一种新的智慧,也许的确如此。

在这场比赛中发生了另一件非常有趣的事情——卡斯帕罗夫是一个总是通过恐吓对手时他们屈服的人。对手们只是害怕他,然后就被打败了。但深蓝不能被他吓倒,因为它是一台机器,对吧?因此,卡斯帕罗夫自己,在他的一生中,第一次突然变得不安全了。在他输掉那场比赛后,在接下来的比赛中,他犯了一些他永远都不会犯的错误,因为他突然之间变得没有安全感了。

【问】:是他的预感在起作用,不是吗?我们谈论过几次突现性质。盖亚假说认为,我们这个星球上的所有生命都有突现性质——某种我们无法感知的智能,而我们的细胞能够感知到我们。你对此有什么想法吗?你有没有想过,互联网最终会成为一种新兴的意识吗?

【Pedro Domingos】:我不相信盖亚假说,因为地球本身没有足够的自我调节能力来实现生物的自我平衡。事实上,有时候你得到消极的反馈是因为事情真的已经非常糟糕了。因此,大多数科学家不相信今天地球上的盖亚假说。现在,我认为——还有很多人认为是这样的——也许盖亚假说在未来会是真的,因为随着互联网的发展,传感器遍布全球各地,很多行动都是基于这些传感器进行的,它们保护着我们,以及地球上其他种类的生命。我认为,如果我们快进一百年,地球很有可能会实现盖亚,但它将是一个技术层面的而不是生物层面的盖亚。事实上,我不认为科技和生物之间存在对立。我认为科技将会是通过其他方式对生物学的延伸,对吧?它是由我们制造出来的一种生物。我是说,因为我们是生物,所以在这个意义上,我们制造的东西也是生物。所以如果你这么看,可能发生的事情是,从一开始,地球就在向盖亚进化,我们只是还没有到达那里。但技术是实现这一目标的重要一步。

对OpenAI项目的看法:好事情,但成功的几率有多大不好说

【问】:你对OpenAI计划有什么看法?

【Pedro Domingos】:我认为……OpenAI计划,它的目标是为公共利益做人工智能。因为,你知道,像埃隆·马斯克和Sam Altman这样的人担心,因为人工智能研究的最大数量是在公司内部进行的,比如谷歌、Facebook、微软和亚马逊等等,所以最终成果将归他们所有。人工智能是非常强大的,所以如果人工智能只是由这些公司拥有,那就太危险了。因此,他们的目标是进行一个开放的人工智能研究项目,它的名字也由此而来,它的成果对每个人都是开放的。我认为这是一个很好的事项。所以我非常同意这样做。我认为在公司里进行大量人工智能研究并没有什么错。但我认为在公共领域也有人工智能研究是很重要的。而大学里正在做这些事情,而像OpenAI这样的东西是另一个例子,像艾伦人工智能研究所也是以这种方式为大众做人工智能的另一个例子。

所以,我认为这是一个很好的事情。他们要做的是什么,它们成功的几率有多大,以及他们的人工智能将如何与其他实验室生产的人工智能的相比较——无论是来自行业还是学术界——这都还有待观察。但我很想知道他们从中得到了什么。

【问】:一些人存在一种担心,他们把AI比作核武器,“我们不知道如何建造AI,但我们了解了99%的内容,并且我们将与地球上的每一个人分享这些,”所以你会希望最后让它成为AGI的那1%表现不会那么糟吗?

【Pedro Domingos】:是的,我理解这个类比,但你必须记住,人工智能和核武器是完全不同的,有这么几个原因。一是核武器本质上是破坏性的东西,对吧?是的,你可以把它们变成核能,但它们是用来炸掉其他东西的。人工智能是我们用来做各种事情的工具,比如诊断疾病,在网页上放置广告,以及从大到小的事情。但是,制造核弹的知识,其实并没有那么难。幸运的是,很难获得的是制造核弹的浓缩铀或钚。这实际上是阻止任何恐怖组织制造炸弹的原因。这并不是缺乏知识,而是缺乏材料。现在,在人工智能领域,这是非常不同的,你只需要计算能力,你就可以接入云端,获得计算能力。更重要的是,人工智能只是算法——它已经能够使用了。很多人都可以用它来做自己想做的事情。在某种程度上,安全在于让每个人都拥有人工智能,这样它就不会掌握在少数人的手中。如果只有一个人或一家公司能够使用主算法,那么他们将会非常强大。如果每个人都能使用主算法,那么就会有竞争,会有协作,会有一个完整的生态系统发生,这样我们就会更安全。正如我们现在所处的经济状况一样。但话虽如此,我们仍需要像AI警察这样的东西。所以,威廉 吉布森在《神经漫游者》中有一个叫做图灵警察的东西,对吧?图灵警察是人工智能,他们的工作是监督人工智能,确保他们不会变坏,或者当他们变坏时,会被拦下来。同样的道理,这和已经发生的事情没有什么不同。我们有高速公路,银行劫匪可以用高速公路逃跑,但没有理由取消高速公路,不过警察当然也需要有汽车来抓强盗,所以我认为这和人工智能有相似之处。

【问】:当我和人工智能领域的人士聊天时,总是会提到科幻小说家。他们总是提到他们,他们总是有自己最爱的情节和诸如此类的东西。是否有任何书籍、电影、电视节目等等,你看到其中的情节之后会说:“是的,这可能会发生,我已经预见到了。”

【Pedro Domingos】:不幸的是,在电影和电视节目中,很多关于人工智能和机器人的描述都不太现实,因为电脑和机器人其实只是伪装的人类。这就是你制作有趣故事的方法,就是让机器人像人类一样行动。他们有邪恶的计划来接管这个世界,或者,有人爱上了他们,诸如此类的事情。这就是你拍一部有意思的电影的方式。

但是,正如我们所谈论的,真实的人工智能和这完全不同。因此,很多涉及到人工智能的电影中所描述的情节,比如《终结者》,这些情节都不会真的发生。但有一种观点认为,科幻小说是自我实现预言的一大来源,对吧?人们阅读到这些东西,然后努力让它们发生。所以,谁知道会发生什么呢。

话虽如此,但我认为,有一部关于人工智能的电影,其中的情节有可能会真的发生,而且非常有趣。就是电影《她》。《她》讲的是一个虚拟助理,她与人类非常像,而这部电影如果放在十年前,那将是非常奇怪的。如今,我们已经有了Siri、Cortana和谷歌这样的东西,当然,这仍然与她相去甚远。但我认为我们将会越来越接近这一目标。

【问】:最后一个问题:你最近在做什么,你打算再写一本书吗?是什么事情让你那么忙呢?

【Pedro Domingos】:首先,我认为我们已经非常接近于统一这五种主算法了,而且我还在继续努力中。这就是我在过去十年里一直在做的事情。我想我们快要实现了。我想,一旦我们找到了这一主算法,下一件事就是,就像我们一直在说的那样,这是不够的。所以我们需要别的东西。我认为,我们需要超越现有的五种范式,而我正在研究一种新型的学习方式,我希望它能让我们超越这五种模式。有人开玩笑称它为“第六范式”,或许我的下一本书将会取名为“第六范式”。这听起来像是丹 布朗的小说,但这绝对是我正在研究的东西。

【问】:当你说你认为主算法几乎已经准备好了……会有一个突飞猛进的时刻是吗?还是一种渐进主义?

【Pedro Domingos】:这是一个循序渐进的过程,对吧?再次看看物理学,他们已经统一了三种力,电磁力和强、弱力。他们仍然没有统一重力。所以有一些像弦理论这样的提议。这些时刻往往只在回首往事时才会发生。人们提出一个理论,然后测试它,然后修改它,最后当所有的部分都到位时,人们会说,“哇哦。”我想这也会是主算法的情况。我们有候选算法,我们有办法把这些东西拼凑在一起,我们还需要看它们是否能做我们想做的所有事情以及它们是否可以扩展,对吧?扩展非常重要,因为如果它无法扩展,那么它就无法真正解决问题。所以,让我们拭目以待吧。(完)

Tags:

发表评论

电子邮件地址不会被公开。 必填项已用*标注

您可以使用这些HTML标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>