机器人研究权威专家Hod Lipson:未来机器人将有自我意识,好处远超风险

  • 时间:
  • 浏览:1

DoNews11月3日消息 (记者 费倩文)11月3日,腾讯科学WE大会将在北京举行,在大会前夕,机器人研究权威专家、哥伦比亚大学教授Hod Lipson在接受媒体采访时回答了“机器人会拥有自我意识吗?”你你类似于于问提。Hod Lipson认为,未来不可外理的会再次再次出现另原本一天:世界上的机器获得自我的意识。但这件事情将在10年事先地处,还是400年事先地处,他也真不知道。过后 他比较确信的是:未来机器将会有自我意识。

Hod Lipson和团队研发出不能自我建模的仿生群体“粒子机器人”,该研究成果登上了《自然》杂志封面。

在采访过程中,Hod Lipson还表示,他当时人在“将来机器人拥有自主意识是否会有危险?”你你类似于于问提上保持乐观态度。他认为,“自主意识的机器人带来的好处将会远远超过它的风险”。Hod Lipson以火的发现为例解释称,火非常危险,也非常强大。但人类是否希望当时人从未发现火呢?答案应该是否定的,将会有了火事先,使得大伙儿能做而是 事先做这麼的、不可思议的事情。

Hod Lipson指出,“大伙儿现在将会发展和运用了而是 机器,而你你类似于于机器的数量将会太大,它们也会这麼复杂化,总有一天人类将无法直接照顾这麼多、这麼复杂化的机器人,大伙儿要想妙招让机器人当时人来照顾当时人。”(完)

附Hod Lipson对话全文:

提问:您真的会着实机器人会拥有自主意识吗?你担心它拥有自主意识吗?

Hod Lipson:我的回答是肯定的,也是否定的。将会我认为不可外理的会再次再次出现另原本一天,你你类似于于世界上的机器获得自我的意识。这是原本非常伟大的事件,将会大伙儿现在在逐步让他是什么机器系统一些一些上加智能。最终,它们会给当时人找到原本模型,它们最终要想明白,并最终明白当时人是你你类似于于,当时人能做你你类似于于和这麼做你你类似于于。

这件事情将在10年事先地处,还是400年事先地处,真真不知道。过后 ,我比较确信的是大伙儿的孙辈所生活的世界里,机器将会有自我意识。

我是否对此感到担心呢?让他给您举原本例子,而是 火的发现。火非常危险,也非常强大。但人类是否希望当时人从未发现火呢?答案应该是否定的,将会有了火事先,使得大伙儿能做而是 事先做这麼的、不可思议的事情。

具有自主意识的机器人也是这麼,它是你你类似于于非常强大的技术,重要的是每原当时人都认识到你你类似于于机器人不能做些你你类似于于、这麼够做一些你你类似于于,就像火一样,大伙儿知道它是强大而危险的,而是 大伙儿要确保将它用于好的事情上。

我当时人在你你类似于于问提上保持乐观态度。我认为自主意识的机器人带来的好处将会远远超过它的风险,过后 大伙儿要追求发展另原本原本技术,将会大伙儿现在将会发展和运用了而是 机器,而你你类似于于机器的数量将会太大,它们也会这麼复杂化,总有一天人类将无法直接照顾这麼多、这麼复杂化的机器人,大伙儿要想妙招让机器人当时人来照顾当时人。

提问:第原本问提,上过《自然》杂志封面的那个论文提到过粒子机器人这麼单点故障,也这麼集中控制。你你类似于于系统可不前要继续保持运行,它的阈值在你你类似于于范围内?将会现在测试下来是20%的粒子地处故障,整个系统还是不能保持运行,你你类似于于事情是对机器人鲁棒性的原本突破。

事先《科学》杂志的主编提到过现在所有大伙儿认为机器人的意识问提,是否将会它的鲁棒性,机器人的鲁棒性将会真的够了,它就能产生意识吗?第二个问提,我是否非常理解刚才举的火的例子,将会火是这麼当时人意识的,它仍然而是 原本工具,教授事先讲400年事先人将会和人工智能同时进步,而是 人和人工智能共生的原本情况,在另原本的环境下,大伙儿会面临你你类似于于伦理和社会上的挑战?

Hod Lipson:着实您是把而是 问提都集中到了这原本问提。我先回答一下关于鲁棒性的问提,大伙儿所做的粒子机器人把你你类似于于整体当成原本机器人。你你类似于于机器人我更想类比成原当时人的身体。大伙儿的身体是由一些细胞组成的,你你类似于于细胞会产生、发展和死亡,不断地会有细胞死去。着实有而是 细胞都死掉了,但我还是我,你还有你在。

这麼到底大伙儿能让十2个 细胞死,而不改变当时人的性质呢?到底是20%,还是400%呢?着实,大伙儿知道人体的细胞不断地在死亡,这是原本持续的过程,同时也会有新的细胞不断产生。

换句话说,大伙儿的身体是由原本个不可靠的部分组成,你你类似于于部件你你类似于于会死亡、坏掉,过后 新的部件会不断再次再次出现,反复的再次再次出现,大伙儿你你类似于于整体还是大伙儿当时人。

做机器人主要在于新思路,你谈到了它的鲁棒性,你也提到了所谓的20%。着实你你类似于于20%而是 大伙儿测的原本数字而已,大伙儿更关心的是原本想法,而是 如保建造你你类似于于机器人,像人体一样,不能用你你类似于于不可靠的部件组成它,过后 它作为原本整体仍然是像人体一样,可不前要正常的运行。

你你类似于于点和大伙儿今天造机器的想法详细不一样,比如大伙儿现在造的飞机,它由而是 部件组成,其中任何原本部件是否当时人特定的功能。我希望你你类似于于部件失灵了、出故障了,那你你类似于于飞机而是 这麼上天的。我希望有四百公里 车其中原本轮子掉了,这辆车也就无法运行了。

大伙儿现在希望以你你类似于于全新的思路来做机器人,它的鲁棒性和机器人是否有自我意识是无关的,大伙儿更多的是把它想像成你你类似于于生物体。从生物体来讲,你的身体、头脑是维持运行所必要的部分,大伙儿希望你你类似于于机器人有原本头脑,不能自我去建模,另原本就不能发展起来。

我举火的你你类似于于例子,并是否将会它有自我意识。它并这麼自我意识,主要还是从伦理的角度来讲,是说火也是非常非常强大、危险的。过后 ,它是人类文明真正开始英语 英语 发展的原应,有了火人类才不能吃事先吃不了的食物,不能建造事先建造不了的东西,不能在深更深更半夜看见东西,你你类似于于切极大的促进了文明的发展,过后 同时火也是非常危险的。

而是 ,大伙儿每每该人都前要意识到火是非常有用的,非常强大。我希望火失控,就会带来非常糟糕的后果。人工智能也是这麼,它既强大又危险,你你类似于于技术非常值得大伙儿拥有,过后 大伙儿要知道你你类似于于技术能强大到你你类似于于程度,过后 给予它尊重,确保不能恰当地使用。

你提到的所有伦理问提,目前应该还是这麼答案的。着实就在5年前,人工智能技术就将会开始英语 英语 发展了,过后 这麼人对它感到兴奋,它而是 原本学科而已,也这麼任何人担心它有一天会接管了全世界。

过后 ,在过去5年间,你你类似于于技术真的腾飞了。一个劲 之间好像大伙儿是否问你你类似于于伦理问提,过后 正如我前面说过的那样,大伙儿对你你类似于于伦理问提还这麼答案,你你类似于于技术肯定会继续发展,而有自我意识的机器人也终将再次再次出现。

提问:粒子机器人是否不能在原本很小的空间内模拟宇宙?

Hod Lipson:你问粒子机器人可不前要模拟宇宙,让他大伙儿你你类似于于机器人更多的是试图模拟生命,而是否模拟宇宙的发展和运行。

大伙儿试图让它模拟生物,不如保会是动物的机制。大伙儿试图认识大伙儿身体里所地处的你你类似于于粒子,将会更确切的说是细胞,每原本单个细胞是否不可靠的,过后 大脑暂且指挥每原本单个的细胞,你你类似于于细胞通过当时人的随机运动组合在同时,最终产生了每原本真实的当时人。

你你类似于于也仍然是原本类比,过后 总的想法是它使大伙儿不能试着模拟,将会试着qq克隆好友 一下生命的运行。

提问:随着自主机器人意识这麼强烈,现在太大人对你你类似于于感到担忧,与此同时包括腾讯在内的你你类似于于企业,提出了“科技向善”的理念。你是否听说过腾讯“科技向善”的理念,你对科技向善你你类似于于理念是如保会理解的?以及你着实科技向善该如保会引领未来机器人、人工智能与人类命运的和谐发展。

Hod Lipson:你你类似于于问提非常好,作为人类来说,大伙儿开始英语 英语 意识到另原本你你类似于于强大的自主意识会再次再次出现,大伙儿肯定会想到前要要确保你你类似于于技术会用于好的事情、善的事情。

过后 ,你你类似于于科技向善的想法在而是 地方是否人提出来,过后 大伙儿在不断的重复。比如我所在的哥伦比亚大学,大伙儿有原本非常类似于于的说法,叫做数据向善,而是 把数据用于善的事情,这是每每该人类都希望能做的事情,关键还在于如保会做到,如保确保技术一个劲 以好的妙招得到运用,你你类似于于点是非常难的,确保人工智能详细用于好的事情暂且容易,将会你你类似于于技术非常易用,而是 前要投入而是 钱就不能用上。技术你你类似于于既可不前要被用来做好事,也可不前要被用来做坏事,关键在于人类文明和人类社会应该想如保会把它用于好的事情,而是否坏的事情。

关于咱办目前大伙儿还这麼详细想清楚。将来是让他工智能去监督人工智能,还是采取你你类似于于别的妙招?过后 总的来说最终要靠人类的伦理,指导大伙儿在原本机器不能自主做出决定的新世界里,确保你你类似于于技术仍然用于好的事情。

应该说任何另原本的问提都这麼原本简单的答案,过后 大伙儿前要走上另原本原本历程,过后 一步一步的往前走,大伙儿现在要公开讨论它应该可不前要做些你你类似于于,不可不前要做些你你类似于于,大伙儿要不断地进行研究。

在你你类似于于过程中,人类会逐步做出你你类似于于能做、你你类似于于这麼做的决定,实际上在人类历史上大伙儿发现了既强大又危险的技术,比如说核技术、基因技术的再次再次出现,基因技术将会被误用或滥用,它的结果也会很糟糕。比如化学的发展,它是否将会会被人用于做坏事,过后 最终人类社会都选者把你你类似于于技术用于好的地方。

而是 ,在人类历史上大伙儿另另原本次发现你你类似于于强大而危险的技术。但在大部分的情况下,人类社会作为原本整体做出了正确的决定。而是 我当时人是乐观的,我相信这次人类社会整体也将做出正确的决定。着实,在某个时点上将会有少数人会做出少数错误的、不好的决定,过后 作为原本整体,大伙儿会做出正确的决定。

提问:通常大伙儿会想科学家做机器人,是让它来模仿人类所做的一些动作,将会人类的功能。过后 是否一些科学家做出来的机器人将会能做一般人做不出来的动作了,为你你类似于于要让机器人做到你你类似于于呢?

Hod Lipson:你你类似于于问提非常好,就像大伙儿为你你类似于于要让他工智能将会机器人玩国际象棋、围棋一样。你你类似于于是原本挑战,大伙儿会试着让他工智能和机器人做一些人着实难的东西,看是否能让机器专学 着你你类似于于技术。

这是自我的挑战,也是原本测试,就好像人工智能在最开始英语 英语 学国际象棋的事先,世界上绝大部分普通人是不将会战胜国际象棋大师的。将会,一般人都做这麼,不过一开始英语 英语 大伙儿肯定也认为人工智能也是做这麼的。这对它是原本智力上的挑战,它会去学习,过后 逐步做到你你类似于于点,这是智力上的挑战。

身体上的挑战也是一样的,大伙儿会去问机器人可不前要走路。走路这件事看上去非常简单,每原本儿童,甚至婴儿很小就开始英语 英语 学走路,过后 学着了。但实际上教机器人走路比让它学国际象棋难得多,将会每原当时人类都着实大伙儿不如保会擅长走路,而是 大伙儿不着实走路这件事有你你类似于于难的,过后 教机器人走路是非常困难的。

巴斯大学和其它的一些大学进行了不如保会多研究,才逐步让大伙儿的机器人不能走路。在它做到走路事先,科研人员会想可不前要让它跑起来,可不前要让它在摔倒事先当时人爬起来,可不前要让它能爬山、爬墙,将会说可不前要让它做原本后空翻。

十2个 月前,伯克利大学发布了一段视频,它的机器人在玩原本魔方,你你类似于于是一件非常小的事。将会只而是 当时人,他的手就能玩魔方,过后 对机器人来说这是非常难的事情。

对于科研人员来说,让机器人做你你类似于于事情而是 在爬原本阶梯,是人在身体和智力可不前要做到的你你类似于于事情,让它像爬梯子一样原本原本得掌握,过后 试着看一看大伙儿在这方面不能走多远。

你你类似于于技术是否有用呢?

我或许可不前要举原本例子。让机器人做后空翻的动作将会你你类似于于想不出来有你你类似于于实际的用处,过后 后面 支持机器人走路、拿东西、做后空翻的你你类似于于技术有而是 非常实际的应用。

提问:您的这项研究适合于哪方面的实际应用,比如医学将会其它的。在您的成果当中,未来还有你你类似于于可不前要提升的方向?比如说更多、快一点 、更小的组件。

我听说您领导的研究团队后面 有原本中国人,叫李曙光。您如保会评价中国在机器人研究和应用方面的贡献?

Hod Lipson:我先跟您讲一下大伙儿的计划,大伙儿预期前要把它做的更小。大伙儿在设想另原本你你类似于于机器人的事先,大伙儿希望不能模拟成百上千个细胞同时运作的情况。事实上,大伙儿现在能做到的而是 几二个细胞进行另原本的运行。大伙儿希望有一天不能达到数百万、上千万的细胞同时组成的粒子机器人来运作,就像大伙儿的身体一样。大伙儿身体里有数十亿、上百亿的细胞,它们同时形成了大伙儿。大伙儿要另原本做语录,就前要把它做的更小,大伙儿前要使用纳米技术,将会说相当于是微米技术,这是大伙儿的下原本目标。将会在它的每原本部件足够小事先,是不将会有实用场景的,将会在大的规模上这麼妙招实现细胞之间永续的更新,将会它足够小,不能做到而是 有趣的事情。

比如说大伙儿现在就看工厂里的机器人,乃至你他家的吸尘器,现在是否一些大的部件坏了,整个机器就这麼运作的部件组成的。将来它们也可不前要由另原本原本原本小的细胞组成,它的好处有而是 。

首先,而是 它不能应对某个部件再次再次出现故障,过后 整体不让出问提,可不前要详细循环。在今天大伙儿就看的你你类似于于机器是这麼够循环的,机器坏掉事先相当于把它埋葬了,将会说你你类似于于机器的某个金属部件、塑料部件是可不前要循环的,过后 机器作为原本整体是不行的。

过后 生物体不一样,生物体是可不前要百分之百循环的。比如说你吃掉了一只鸡,你就不能充分利用鸡提供让他的蛋白质,将会你吃了植物将会素食,你也会充分利用它让他提供的一切,将会你的身体会把它所提供让他的有用物质进行循环,从氨基酸开始英语 英语 ,过后 对它实现充分的利用。

大伙儿现在希望不能有你你类似于于物理的机器,使它而是能实现另原本的循环,另原本它就由数百万、上千万的小部件组成,形成另原本原本小粒子的生态系统。这麼实现另原本的生态系统,才有将会使大伙儿维持使用而是 机器的人类文明生生不息,将会你你类似于于机器当时人可不前要照顾当时人,过后 应该说这是原本非常长远的目标,这是否原本明天就能用上的技术。

提问:不能用原本词谈一谈对于腾讯明天WE大会科学着神的理解吗?过后 讲一下故事,教授这边是否采取了你你类似于于行动,来外理相关的技术被误用,是否地处一些规则,如保对相关的技术进行监管?

Hod Lipson:我非常期待明天的大会,过后 他知道大会涉及到而是 不同的主题,内容都非常有趣,这也使让他到中国和美国科学界的相互合作。

您提到我团队后面 有中国人,着实我那里总共有10个博士生,后面 有二个中国人,从硕士的学生来说,数量就更多了,相当于占到了一半,将会相当于有10多个。

而是 ,不管是哥伦比亚大学还是其它大学,真是否这麼。让他这也表明中美在你你类似于于领域的相互合作比历史上任何事先是否多,不仅在大伙儿的项目组有中国学生,在大学的教职员工后面 是否不少的中国人。

人工智能和机器人领域尤为这麼,在你你类似于于领域发表论文的数量,中国、美国、欧洲数量大致是一样的,大伙儿也知道在中国、美国,在世界上而是 地方都地处着而是 竞争,过后 在人工智能和机器人的世界里,世界着实是平的。

其中部分原应是将会你你类似于于领域对资本投入的需求很低,过后 他不前要投入大量的资金,就可不前要去研究和发展你你类似于于技术,而是 每原当时人感兴趣都可不前要参与进来。另外一部分原应是在人工智能和机器人的领域,大伙儿分享意识是非常强的,迄今为止你你类似于于领域所取得的每一项成就是否开源的,这也大大促进了国际相互合作。

至于监管的问提,从目前来看,大伙儿唯一能做的而是 不断的谈论另原本的事情,大伙儿绝对这麼关上门搞开发,要保持百分之百的开放。在大伙儿的实验室白天黑夜是否记者找大伙儿,大伙儿会来拍照,会问问提,过后 一些事先会问非常难回答、根本就这麼答案的问提。

在机器人技术的发展领域,让他这是唯一的出路。将会大伙儿进行大量的交流还这麼确保你你类似于于技术一定是用于好的事情,过后 相当于通过你你类似于于讨论,大伙儿可不前要了解到你你类似于于技术的危险性何在,而是否在未来某一天一个劲 被它吓坏了。

提问:单个粒子机器人现在的收缩情况直径是15厘米,您事先提到在它做的足够小事先是不太将会应用的,相当于要等十2个 年时间才有将会做到微米级、纳米级?在这期间会遇到你你类似于于问提?将会真的做到纳米级、微米级,你你类似于于粒子机器人具体落地应用场景相当于是你你类似于于样的?可不前要举十2个 例子描述一下吗?

Hod Lipson:前要十2个 年不能达到我知道你的你你类似于于尺度我着实真不知道答案。你你类似于于研究的进展暂且仅仅取决于研究的难易程度,还涉及到是否不能得到资金支持,是否有学生对你你类似于于课题感兴趣。将会大伙儿会被其它的技术所吸引,你你类似于于是否一些影响因素。

过后 ,我当时人仍然着实它会在大伙儿的有生之年达到微米。比如10年,将会说我不让想像做的比微米更小,我不让真的想像那事先就能做到纳米级,过后 或许大伙儿这麼做到毫米级的,比如说像小的砂糖颗粒一样,毫米级的,那事先就可不前要做另原本的细胞。

这麼妙招把毫米级的粒子机器人到人类的血管中去,将会大伙儿现在想像的你你类似于于医学中不如保会先进的应用,将会还是做这麼,过后 它应该可不前要成为一些机器的组成部分,你你类似于于机器不能行走、恢复、重复使用。

比如在外空有一些前要做的工作,将会是将会大伙儿前要登上月球语录,大伙儿就前要你你类似于于机器人不能根据任务的需求,改变当时人的社会形态,在一些地方将会把材料运过去非常昂贵,大伙儿前要重复使用大伙儿的机器人,让它不能根据任务需求进行社会形态的调整。我当时人想像,这很将会是你你类似于于机器人比较早的应用社会形态。

提问:另一该人说中国和美国在人工智能、机器人领域的不同是中国将会研究更偏应用一些,美国将会在基础研究做的更扎实一些,如保会看待中美在这原本领域当中研究发展程度的不同?中国人工智能领域在基础研究方面的不够和不够会不让对未来应用造成一些影响?

Hod Lipson:我不太选者让他看的情况和您的你你类似于于描述是一致的。将会我着实中国是否而是 人在做应用和基础研究,是否而是 美国人在做应用方面的研究,中国这边也是两方面研究是否。

应该说你你类似于于领域的研究一个劲 是否混合的。在机器人和人工智能领域,一向是否这你你类似于于,暂且一个劲 两分法的判断,而是 人是否同时在做的。过后 他很少就看另一该人只会研究某个特定的应用。比如说只研究某个医学的应用,将会某个康复功能的应用,将会他只关注于自动驾驶的机器人,更准确的描述而是 你你类似于于领域非常广泛,着实这麼人不能把所有的细分学科、某个技术细节都关注到。

过后 在这原本国家是否大量的人做各种各样的研究,而是 恐怕这麼一下子判断中美再次再次出现另原本你你类似于于不同偏好的原应。

即便在我当时人的实验室,有的研究人员比较重视应用。大伙儿有原本项目是能做“抓”你你类似于于动作的机器人,大伙儿会和工厂有而是 的联系,去看现有另原本的机器人和大伙儿当时人的机器人,可不前要保证它抓5万次不出故障。

此外是否不如保会关注于机器人创造力和自我意识的人,你你类似于于更具有哲学性的思考。恐怕这麼说你你类似于于领域的内容这麼富于,而是 原当时人恐怕这麼你你是而是 关注到,过后 放进去国家尺度上,两国都既有实用研究,是否大量的基础研究,这而是 大伙儿你你类似于于学科和其它学科不一样的地方。

比如天文学肯定要做大量理论研究。大伙儿你你类似于于行是不一样的,机器人你你类似于于领域有而是 商业的力量参与,是否而是 政治、经济的力量参与,你你类似于于领域的钱非常多,比如说百分之百人工智能驱动的无人驾驶汽车,在你你类似于于领域投入了大量的资金,它非常热,有来自于各个方向上的压力和兴趣,而是 将会像另原本的一些特定细分领域会吸引到更多的关注,但其着实更广泛的人工智能和机器领域,实用和理论基础性的研究是否广泛进行。