泰格马克 麻省理工学院物理系 终身教授

对话MIT终身教授:AI之路通向何方?是人类福利还是灭世之灾?

造就 TALK · 2018-11-14 · 15:18:05

编者按:

我们已然望见AI时代的曙光。AI无限的想象空间、人类根深蒂固的恐惧本能,加上流行文化的肆意渲染,AI更像一头带来末日的利维坦。AI究竟意味着什么?人类又该如何自处?出自人类之手的AI如何才能为人类谋福利?

造就有幸采访了麻省理工学院物理系终身教授、未来生命研究所创始人、畅销书《生命3.0:人工智能时代,人类的进化与重生》作者迈克斯•泰格马克(Max Tegmark),分享了一些对于人工智能的理性看法。

timg (2).jpg

造就:您在新书开篇提到中国,您认为中国人工智能(AI)的发展会对世界有什么影响?

泰格马克:中国是人工智能制造领域的世界领跑者。

不断提升的技术能力与使用技术所必需的智慧之间存在一种张力,这是一场竞赛,会在很大程度上决定未来AI的发展走向。

中国漫长的历史积累了丰富的智慧,有助于建立一套良好的人工智能管理体系。中国技术和中国智慧的结合,很可能让我们在这场竞赛中胜出。

过去智慧的增长一直依赖试错法,比如我们先发明了火,经历火灾后又发明了灭火器。

但今天,科技的力量已经实现几何级数的增长,试错成本变得不可承受。我们必须未雨绸缪,一次就把事情做到位,因为这可能是我们唯一的机会。

造就:90年代美国、欧盟形成了一种保护机制,您对此怎么看?

泰格马克:事实上,我工作的麻省理工学院正在做安全性研究项目

有人质疑,对AI风险的讨论是不是为时过早,甚至太杞人忧天?不是。安全性研究的宗旨是希望通过规避错误,最大程度地降低损失,确保往正确的方向发展。

有人很悲观,他们想象凡是有可能被滥用于危害人类的科学技术,都会酿出苦果、贻害无穷。但这很显然是错误的。

想想生物学,本可以用于生化武器,可关于生化恐袭的报道实际上少之又少。

 timg (3).jpg

因为20世纪70年代,大部分国家都签署了国际性的禁止生化武器条约。大家形成了一种共同的愿景,没有生物学家会以制造生化武器为梦想,而是把精力放在了生物学研究和以医学发明赚钱上。生物学确实为人们创造了更健康、更幸福、更长寿的生活。

很多人一直固守一种过时的思维方式,坚信强者通吃,必须斗得你死我活,才能得利。

比如我的母国瑞典和邻国丹麦,历史上战争不断,但近百年却友好无事。

战争中求生存,在古代这似乎无可厚非,毕竟当时的条件下,土地意味着一切。

但在今天,利益的获取不必依赖土地,科学技术的发展可以满足物质财富、生理健康各个层面的全方位提升。不必再依循弱肉强食的残酷法则。

科学技术的发展依赖不分国籍、种族、性别的人类的共同努力,科技的客观有效性也决定了应用足以造福全世界。

例如抗生素,没人在乎究竟是谁、哪个国家发明了抗生素,重点是它事实上为包括亚非拉和欧美在内的全世界人民带来了福利。

这才是科学技术的本质。科技诞生财富和利益,科技的普世性决定了在今天,不是残酷的竞争而是和平,不是你死我活而是互利共赢,才是提升幸福指数的终极之道。

造就:您认为AI是否有意识? 

泰格马克:这是一个很有争议的话题。

首先,意识不等于智力。智力是实现目标的能力。而意识是我知道自己(在做什么)。

比如开车,我从自己的耳朵、眼睛获取信息,大脑经过处理,向肌肉发出指令,再落实到具体的驾驶行为上。

无人驾驶汽车可以把这件事做到极致。但它不可能知道自己在开车。我却可以知道这点。

有人说,任何有智力的东西都有意识,把意识和智力划等号。这显然是错误的。

意识和智力都跟信息处理有关,但并不是所有的信息处理都是在有意识的情况下实现的,比如我不可能察觉到我的大脑是如何调节我的心跳的。同样,某些智力活动并不伴随意识。

也有人说,机器人不可能有主观体验,不可能有意识。

我是一名科学家,从科学角度看,构成人类大脑的碳原子并不神秘。而之所以神秘学、奇迹学能有广阔的市场,我觉得和人类的宗教需求和宗教背景有很大关系。

目前麻省理工学院的研究小组正在做这方面的研究,什么样的信息处理是有意识的?什么样的信息处理仅仅是一种实现目标的应变能力?这非常重要。

未来,万一我们造出和人类一样有意识的机器人,该如何对待它们?

pexels-photo-595804.jpeg

一旦具备意识,就不再是简单的技术层面的问题,而是道德伦理问题。

人类一直就有制造他者、虐待其他生命形式的恶习。无论是自然界的动植物,还是野蛮社会下的奴隶仆役,都被以要么没有意识、要么是低阶生物为由肆意虐待。但科学和社会的双重进步一次次证明并非如此。

要想肆意对待有意识的机器人,就必然触及几乎不可能解决的道德伦理难题。

某种程度上,主观体验、意识是最有价值的东西。比如当我们看世界的时候,是因为我们在看,所以诞生对世界“美”的判断和感受,相反世界本身谈不上美丑好坏。可以说,意识、主观体验就是意义的源泉,是独一无二的标志。

制造AI的宗旨是服务人类,将是否具备意识的机器区分开来并且分别制造,这一点就尤其重要。此外,针对意识的有无,制定相应的对待策略,构建不同性质的人机伦理,也十分重要。

造就:人类大脑和AI能够完美融合吗?就像钢铁侠那样。

泰格马克:可以,也不可以。

某种程度上,我们可以使用科技来强化我们的大脑,现在的智能手机就是这种的初步应用,撇开手机和人脑的物理连接不谈,智能手机的确大幅提升了人脑的各种能力,也给人类生活提供了极大的便利。

未来很可能诞生神经植入技术,超越物理层面的沟壑,使得人成为更完美的人。

绝对意义上的人机融合并不现实。因为神经元信号的发射速度只有千分之一秒,而今天计算机芯片的处理速度比人脑快100万倍,受限于生理原因人脑不可能比得过AI,所以人机融合的前景暗淡。

 微信图片_20181114145516.jpg

超级计算机在应用的长远和广阔性上,无疑优越于人机融合,而只需要解决AI的价值观问题,始终保持为人类最高利益服务的宗旨,这种相对意义上的人机融合才是王道。

造就:你在书里多次提到《终结者》,你觉得未来会是人类成功控制机器,还是机器成为人类的噩梦?科幻电影里你最喜欢哪部?

泰格马克:一提到AI的未来,人们很容易想到电影《终结者》,里面毁天灭地的机器人,让人们担忧AI的风险。我认为这种担忧是错误的。

对人类构成威胁的不是它超强的能力,而是它的程序、它所秉持的价值观、或者说是它的意识。当AI的价值观和目标与人类需要的不一致、甚至相冲突时,这才是风险所在。

保持AI的价值观和人类高度一致,是AI技术的发展之道,也是人类的福祉所在。

但这面临三个尚未解决的棘手难题:

让AI理解人类的目标和价值观,并不容易;

让AI理解和让AI去执行,是两回事;

随着AI技术更成熟、更智能化、更聪明,如何让AI始终保持和认同人类的价值观?

有人说,这个研究现在为时过早,因为我们人类连自己的目标是什么都还不知道,根本谈不上去教育AI。我觉得这只是在为偷懒找借口。

虽然微观层面人与人存在差异,但作为整体人类却共同分享一套目标。比如造飞机,每个人都会同意飞机在任何情况下都不应该冲向建筑物。

把这类人们都认同的目标和价值观教给AI,就像父母教育孩子,不仅要教育孩子学习各种技能,这就跟一个好的士兵并不等于一个好人一样,还必须传授给他做人的道理,与人为善的道德规范。

使AI的智能化程度越来越高,越来越聪明,并不等于AI的发展越来越好。衡量的标准不仅看能力,更要看AI是否服务于人类,是否分享一套和人类一样的价值观。而这是科学领域和认知伦理领域一起携手去做的事情。如果AI能与人类共享同一套价值观和为人类服务的目标,对AI未来的担忧将不攻自破。

 微信图片_20181114145521.jpg

像《终结者》这样的科幻电影,只是不加区分地展现AI灾难性的一面,我不太喜欢。不过一部电影《她》(Her)是例外。《她》非常有趣,里面的机器人具有自我意识,这是非常有创意的。

我最喜欢的电影当属斯坦利·库布里克的《2001太空漫游》,里面很清楚地展示出人工智能最大的风险来自AI强大能力的滥用,而这也并不是AI自主意识的驱使,而是人类灌输给AI的程序所致。

如果人类能解决人机之间技术性的信任问题,如果人类能传递给AI一套和人类共同价值观一致、为人服务的宗旨,AI超强的能力和无限的想象空间,必定会是人类未来的助力。

造就:如何定义生命1.0、2.0、3.0?

泰格马克:我把细菌生命称为1.0,因为它们没有自主的学习能力。现在的人类是2.0。生命3.0是一种能够对自己在软件和硬件方面进行全面提升的存在阶段。或许AI会为我们人类打开生命3.0的大门。

造就:现在有种担忧,认为AI发展了,人的存在感会被削弱,你怎么看?

泰格马克:我举三个例子,收入、就业和生活的意义。

AI是科学技术的结晶,而科技可以诞生财富,AI发展最直接的逻辑结果是社会财富总和的大幅增长。

现实层面确实可能造成收入两极分化,但这本质上是社会财富的分配问题,不是科技问题。应该从社会科学层面去解决。

AI无疑会替代一些人类工作,尤其是技术含量低的劳动密集型工作。但在社会财富总体增加、保证分配公平的前提下,被替代也可以看作是一种人类的解放。

 pexels-photo-577585.jpeg

人们也不必担心因为失去工作、获得解放而失去生活的意义、存在的价值,我在中国发现很多退休的老年人在含饴弄孙、抚育孙辈的生活中找到了晚年的乐趣和价值。


文字:慕名而来

校对:其奇

  • 科技
  • 人工智能
  • 大脑
00:00
关小蕾 广州市少年宫特殊教育 创办人、广东省特级教师

当你老了,头发花白,但愿还有彼此的爱让我们不再惧怕

2018-11-13
00:00
吴正丹 中国杂技家协会副主席 国家一级演员

在爱人的肩膀上起舞,那一刻,我天下无敌

2018-11-13
00:00
戴榕 心智障碍者家长组织联盟理事长 扬爱特殊孩子家长俱乐部董事长

宝贝,妈妈只愿比你多活一天

2018-11-12

造就评论0

造就  发现创造力