图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物 RAJ

发布时间:2019-08-08 18:13:12 来源:量子位 关键词:RAJ
RAJ
原文标题:图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物
原文发布时间:2017-04-17 12:10:04
原文作者:量子位。
如果您喜欢本文,请关注头条号【量子位】阅读更多相关文章。
如果您是本文作者,不希望我们转载此文,请联系我们删除。
RAJ

舒石 希拉 李林 发自 匹村

量子位 报道 | 公众号 QbitAI

图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物

Raj Reddy(左)和他的学生James K. Baker

图灵奖,计算机界的诺贝尔奖,迄今已经颁发50届。其中至少十分之一,颁给了人工智能领域的科学家。

量子位今天的访谈对象,正位列其中:他就是图灵奖得主、人工智能先驱Raj Reddy。

“我办公室在最破的那个楼里”,Raj Reddy在给量子位指示方向时幽默地说。这位顶级学者已经在卡内基梅隆大学待了近50年,曾经长期担任CMU计算机学院院长。

1994年,Raj Reddy因设计和建造大规模人工智能系统,证明了人工智能技术的重要性和潜在的商业价值,而获得图灵奖。

此外,他还一手创立了美国第一个机器人研究所(Robotics Institute),成为全球最负盛名的机器人研究中心。

在这次与量子位的对话中,Raj Reddy回顾了人工智能的发展,同时坦言目前人工智能的发展超过他的预期。

不过Raj Reddy也指出目前的深度学习也有局限性,人工智能发展会进入平台期、会遇到瓶颈,突破有赖于计算力的进一步释放。

“如果你问我未来十年的大趋势,我会说是特定用途的AI”,Raj Reddy举了一个例子:比方德州扑克AI(前不久刚在海南赢了人类选手的冷扑大师)。

“我们大多数人,大多数情况下遇到的都是不完美信息问题”,Raj Reddy说这类AI有着很实际的意义。

谈到通用人工智能,Raj Reddy说目前还没有实现强人工智能所需的理念、资金等各种条件,但他很有信心:“什么时候才能实现像人一样的通用人工智能?可能需要50年100年1000年?我不知道,但终究会实现”。

谈到通用人工智能,总想到人类生存危机。

“当下次进化发生的时候,出现的不是机器人,而是长得和你我一样却有着超能力的‘超级人类’。超级人类会完成一切工作,其他人类没事可做,他们没有工作,但有充足的食物来喂养他们,也有丰富的娱乐”,Raj Reddy说。

(推荐一篇:《人类正与机器合二为一》)

把目光投向那个遥远的未来时,Raj Reddy非常乐观:超级人类(或者说超级AI)不会灭绝人类,就像人类没有杀光大猩猩黑猩猩、或者其他哺乳动物。

在他眼中,未来的世界对大多数人来说就像天堂一般:不需要工作,却能满足一切需要。

相信你也感受到了,从这个意义上来说,人类会变成宠物。

量子位把这次对话的内容,以Raj Reddy自述的形式呈现如下:

人工智能的肇始

1969年,我从斯坦福毕业来到CMU(卡内基梅隆大学)。

我斯坦福的老师是John McCarthy,他起了“Artificial Intelligence(人工智能)”这个名字。CMU有Allen Newell和Herbert A. Simon。Marvin Minsky在MIT。当时大家都不喜欢人工智能这个提法,更偏好“复杂信息处理”这类名字。

(量子位插播:上面提及的几位都是图灵奖得主)

1956年,这几位科学家参加了在达特茅斯学院举行的一次会议,正式确立了人工智能的研究领域。其实今天很多热门的AI领域,包括自然语言处理、计算机视觉、机器人等领域,在上世纪60年代已经被定义而且有人开始研究。

只不过当时在计算机处理能力这个硬件条件上,有很大的局限性。现在手机可能比90年代大型计算机的计算能力要强百万倍,90年代的计算能力又比60年代强百万倍。包括照相这件事,以前是一行一行的扫描,还得希望被拍摄的对象别动。

此后人工智能经历两轮起伏,现在新的一波人工智能热潮再度兴起。(量子位插播:当时Raj Reddy的学生,美国国家工程院院士James K. Baker帮量子位科普了一遍几十年来人工智能的历次兴衰,暂时按下不表)

学习的本质

我相信,现在的深度学习等方法也有局限性,现有水平也无法达到通用人工智能,人工智能的发展会进入平台期,会遇到瓶颈。未来计算能力还会有飞跃,计算力还会得到释放,这将改变我们看待问题和算法的方式。

就像一个刚出生的婴儿,并没有太多的智慧,成长半年到一年以后,开始具备视觉和行动的能力;再过两年,学会语言;然后四五岁的时候开始学习写字。所以慢慢的,我们学会很多,此后我们一直不停学习。

所以问题是,自动化应该是一个可以持续学习的系统,不停学习任何事情。我的学生Oren Etzioni,现在是西雅图艾伦人工智能研究院(AI2)的CEO。那个研究院在做很多好玩的研究,其中一项是教会电脑读书,然后可以回答每一章节下面的问题。

他们用了生物学AP教材,构建了一套知识系统,准备让电脑通过AP考试。花了好多时间,还有好多钱,最后发现行不通。

在我看来,这个方法根本就是错的。在搞AP生物知识之前,应该先搞明白高中生物;搞中学生物之前,应该先搞明白小学科学。Oren去了之后就是这么做的,他们先研究中学的生物课程,现在已经能回答60%的问题。

你会发现,理解这个世界或者说常识推理,是一件非常困难的事情。

假设我们把电脑送到学校里去,和普通的人类学生一起,教给他们一样的知识,教给他们分析、解决问题的方法,希望电脑能达到六七岁孩子的水平。

结果我们发现,AI连四五岁孩子的智力都做不到。不需要懂数学原理科学知识,只是能很好地理解语言,有感情,我们连这个水平的人工智能都做不出。

那么让我们退回到1岁孩子的水平:不会说话,但有视觉功能,可以认出人脸。视觉和语言不一样,语言是从某种意义上讲是监督学习,视觉完全是无监督学习,人类理解图像结构的过程,完全是无监督的。

所以问题在于,我们能否从监督学习,转变到通过改正错误来学习。比如说你说了一件事,你妈妈告诉你“不不不,这是错的,那样才是对的”,每一次更正都能提高系统的能力。

另外人在学习的时候,不是通过阅读纯文本,而是有语言、图表等多个途径,所以机器学习也应该尝试用多媒体的方式进行。

图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物

未来十年的趋势

目前AI的发展完全超过了我的预期。

10年前我还说,在不限制词汇和说话者的条件下完成语音识别这件事太难了,我有生之年是看不到了,但是它现在就实现了。 本质上,人工智能的发展受到概念、创意的限制,同时也受限于计算能力。

如果你给我相当于目前100万倍的计算力,我很可能造出革命性的系统,让它一直观察人类的行为,然后自己去理解。现在机器学习很受重视。想象一下,如果以机器学习技术去持续地学习一切,未来有很多有趣的可能性。

基本上,如果你问我未来十年的大趋势,我会说是特定用途的AI,比如说德州扑克这种。

我们大多数人,大多数情况下遇到的都是不完美信息问题, 我们要在得不到所需的全部知识和信息的前提下做出最好的选择,结果有时好有时坏。

美国的医保体系ObamaCare就是一个很好的例子,它有很多优点,但也有一些问题,他们应该修复这些问题,而不是彻底抛弃这个体系。当你管理着一个人口规模庞大的社会,根本不可能预测到所有的副作用,你需要做的,是确保在事情发生时能迅速作出反应。

问题在这里也和玩游戏是一样的,你在没有全部的信息的情况下做出了行动,会发现新的信息,这时就需要你智能地去使用新信息,而不是继续遵循旧的策略。

如果你和Tuomas Sandholm聊(量子位聊过了,这里是:传送门),他会说有很多领域需要这种技术,最好的例子就是谈判。扑克AI的技术能解决很多真实世界的问题。

通用人工智能还很遥远

我的导师John McCarthy曾经说,要想造出通用人工智能,我们需要1.7个爱因斯坦、2个麦克斯韦、5个法拉第和0.3个曼哈顿计划的资金。

现在没有通用人工智能所需要的全部理念,未来我们的后代会有;我们现在没有所需的资金,没有人愿意在接下来的100年时间里,每年花掉万亿美元来资助AI研究。

如果有这么大规模的资金,会有更多人从事这项研究,我们能更早见到通用人工智能;即使没有,通用人工智能也一定会实现,这是迟早的事。

我们什么时候才能实现像人一样的通用人工智能?可能需要50年100年1000年?我不知道,但终究会实现。

长远来看,我相信会实现通用人工智能,这也引出了一个问题:人类的生存危机。很多人担心如果通用人工智能出现,人类可能会被灭绝。

我完全不相信这种说法。

人类将成宠物

物种经历了几十亿年的进化,我们人类没有去杀光大猩猩黑猩猩、或者其他哺乳动物,大家都在这个星球上共存。

我认为,当下次进化发生的时候,出现的不是机器人,而是长得和你我一样却有着超能力的“超级人类”。超级人类会完成一切工作,其他人类没事可做,他们没有工作,但有充足的食物来喂养他们,也有丰富的娱乐。

我们设想一种极限的情况,如果我们创造了一种超级人类,做各种工作都比你好百倍,只需要700万甚至7千人,就能完成现在我们70亿人类的工作,那么这70亿人类就没事可做。当这种情况发生,人类就不再需要做现在这样平常无聊的事情,但是物质又极大丰富,人类就可以整天去海滩度假享受,有些人甚至会觉得这是天堂,是在地球上创造了天堂。

我持一种乐观的态度:超级人类不会杀死我们,而是会喂养我们,让我们做自己想做的任何事情,对于大多数人来说,这就是天堂:不工作,却能满足一切需要。

想象一下,大多数人都有猫狗等宠物。对于超级人类来说,我们就是宠物,他们会给我们提供所需的一切,这也就是乌托邦。

我想说的就是,当超级人类这个物种,或者超级AI的出现,一切都为你准备好了,你可以做任何事,不会有任何的物质短缺。

图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物

Raj Reddy工作的背影

招聘

我们正在招募编辑记者、运营等岗位,工作地点在北京中关村,期待你的到来,一起体验人工智能的风起云涌。

相关细节,请在公众号对话界面,回复:“招聘”两个字。

One More Thing…

今天AI界还有哪些事值得关注?在量子位公众号会话界面回复“今天”,看我们全网搜罗的AI行业和研究动态。笔芯~

另外,欢迎加量子位小助手的微信:qbitbot,如果你研究或者从事AI领域,小助手会把你带入量子位的交流群里。


正文完,原文标题:图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物
原文发布时间:2017-04-17 12:10:04
原文作者:量子位。

RAJ RAJ
猜你喜欢
最新文章