人工智能革命揭秘上篇（上）

本篇文章6464字，读完约16分钟

编者按:《滚石》杂志最近发表了一篇关于人工智能的特别报道。报告分为两部分，前一部分已经发布。作者杰夫·古德采访了从事人工智能研究的各种专家，并在第一部分总结了人工智能的进展及其对人类的意义；在下一章，我们将集中讨论人工智能对无人驾驶汽车和未来战争的影响。我们编辑了它供你参考。由于篇幅较长，第一部分将分两部分出版。这是前一篇文章的前半部分。

我们即将创造一种新的生命形式。这一事件不仅是进化突破的标志，也可能威胁到这个物种的生存。

“欢迎来到机器人幼儿园，”皮特·阿比尔打开机器人学习实验室的门说道。位于加州大学伯克利分校北部一栋崭新建筑7楼的实验室实际上相当凌乱:自行车靠在墙上，十几名研究生在凌乱的隔间里，白板上写着普通人无法理解的公式。38岁的阿比勒是个瘦长的家伙。他穿着一条牛仔裤，上面穿着一件宽松的t恤。2000年，他从比利时来到美国，在斯坦福大学攻读计算机科学博士学位。现在，他是世界上最重要的专家之一，能够理解教机器人智能思考的挑战。但首先，他必须教他们“思考”。他开玩笑说:“这就是为什么我们称这个幼儿园。”他把我介绍给布雷特，一个由柳树车库制造的6英尺高的人形机器人，柳树车库曾经是硅谷著名的破产机器人制造商。几年前，实验室带布雷特来这里做实验。布雷特的意思是“消除繁琐任务的伯克利机器人”。这种友好的动物有一个扁平的头，它的眼睛和照相机相距很远。它又矮又胖。像人一样，它也有手和脚。它的爪子是它的手，它的轮子是它的脚。现在布雷特已经下班了，站在实验室的中心，他旁边是另一个神秘而宁静的机器人，它还没有通电。附近的地板上有一盒玩具。里面有木锤、塑料玩具飞机和一堆乐高积木。这是阿贝耳为布雷特和他的学生准备的教学道具。但是布雷特只是实验室里众多机器人中的一个。在另一个隔间里，一个18英寸高的机器人挂在椅背上的吊索上。地下室下面还有一个工业机器人。它每天在机器人沙箱里玩几个小时，只是为了看看它能教给自己什么。在街对面的另一个实验室里，一个外科手术机器人正在学习如何缝合人体，与此同时，一名研究生正在教无人机如何智能避开物体。阿比埃尔说:“我们不希望无人机撞到什么东西，然后从天上掉下来。”“所以我们在教他们学会观察事物。”

一直以来，可编程工业机器人都在执行特定的任务:将机械臂向左移动6英尺，抓住模块，然后向右转动，将模块插入pc印刷电路板。然后每小时重复这个动作300次。这些机械操作的机器在智能上与割草机没有什么不同。然而，近年来，机器学习(一种可以粗略模仿人脑并让机器自己学习的算法)的突破极大地提高了机器识别语音和视觉模式的能力。Abbeel的目标是训练机器人具备一般智能——一种理解世界的方式，这样机器人就可以独立学习和完成任务。他还有很长的路要走。他说:“机器人甚至没有2岁孩子的学习能力。”例如，布雷特已经学会做一些简单的任务，比如打结或叠衣服。然而，一些人类很容易做到的事情，比如认识到在桌子上揉成一团的织物实际上是一条毛巾，对机器人来说尤其困难，这部分是因为机器人缺乏常识，没有折叠毛巾的经验记忆，最重要的是，没有毛巾的概念。它看到的只是一团颜色。

为了避免这个问题，受一盒儿童心理学磁带的启发，abbeel创造了一种自学方法，通过不断调整方法来完成任务。现在，当布雷特整理衣服时，他也在做类似的事情:他会用手抓毛巾，试着摸摸它的形状，试着把它折叠起来。它看起来很原始，不是吗？是的。但是再想想:机器人正在学习叠毛巾。

所有这些弗兰肯斯坦的东西看起来有点令人毛骨悚然。智能机器所能完成的任务的复杂性呈指数级增长。这最终会把我们带到哪里？如果机器人能学会自己扔毛巾，有一天他们能做饭、操作甚至发动战争吗？人工智能也许能够帮助解决人类面临的最复杂的问题，例如治疗癌症和控制气候变化，但在不久的将来，它也可能介入监视、侵犯隐私和不知疲倦地进行电话营销。此外，还出现了一个更大的问题:有一天机器会自己思考吗？这个问题会被理性地分析吗？甚至表现出情感？没人知道答案。智能机器的兴起不同于任何其他技术革命，因为它最终会危及人类的本性——我们可能会创造一种新的生命形式，这不仅是进化上的突破，也威胁到我们作为一个物种的生存。

布雷特，一个人形机器人，可以自己制作东西和分类物体。

不管结果如何，革命已经开始了。去年夏天，伯克利的团队在模拟机器人中植入了一个短期记忆系统。参与该项目的计算机科学家谢尔盖·莱文(Sergey levine)表示，他们注意到了“一件奇怪的事情”。为了测试机器人的记忆程序，他们给机器人发了一条指令，要求它在左右两边的一个洞里钉一颗钉子。为了控制，他们又试了一次，去掉了记忆程序——令他们惊讶的是，机器人仍然知道把钉子钉在正确的孔里。它怎么记得钉子应该放在哪里而不用存放？“最后，我们意识到，只要机器人收到指令，它就会将机械臂旋转到正确的孔中。”然后，在命令消失后，它将在决定钉子应该被放在哪个孔之前看到它的身体被扭曲的地方。也就是说，机器人本身实际上已经找到了正确执行命令的方法。“这非常令人惊讶，”莱文说。“这也令人不安。”

阿比尔带我去了他的办公室，那是一个没有窗户的小隔间。在办公室里，他跟我谈到了DeepMind最近取得的一项突破，DeepMind是一家人工智能初创公司，于2014年被谷歌以约4亿美元收购。几年前，deepmind教电脑玩像《泰·空入侵者》这样的雅达利电子游戏，并且玩得比人类好，这让每个人都感到震惊。但更令人震惊的是，deepmind没有告诉程序中的电脑游戏规则就这么做了。。这不像深蓝在国际象棋中击败人类。游戏规则写在程序里。电脑只知道一件事:目标是获得高分。计算机采用强化学习的方法来做这件事，就像训练一只狗。不管它用什么方法，只要它做到了，你就会赞美一只“好狗”。计算机可以通过这种机制探索游戏，并在反馈中自己学习规则。几个小时之内，计算机就掌握了超人的技能。这是人工智能的一个重大突破——计算机第一次“学会”了一项复杂的技能。

阿贝耳实验室的研究人员被这一突破迷住了，他们决定用自己编写的类似强化学习算法做实验，试图帮助机器人学习游泳、单脚跳跃和行走。或者玩电子游戏？令他们惊讶的是，这个所谓的TRPO(信任区域策略优化)算法几乎和deepmind的算法一样好。换句话说，trpo显示了以一般方式学习的能力。abbeel说:“我们发现trpo不仅可以教机器人走路。”“它也可以在电子游戏中击败人类。”

阿贝耳带来了一段关于机器人模拟器的视频。在视频的开头，你可以看到一个机器人倒在黑白地板上。他说:“记住，这个算法和学习电子游戏是一样的。”机器人被分配了三个目标:尽可能远，不要踩自己的脚，躯干应该高于一定的高度。阿比尔说:“他不知道走路意味着什么。”“他不知道自己有手脚。它只知道自己的目标。然后找到实现目标的方法。”

阿贝耳按下按钮，模拟开始工作。机器人重重地摔倒在地上，不知道自己在做什么。阿贝耳说:“原则上，它应该能够决定是去还是跳。”但是这个算法是由实时“知道”决定的，只要你抬起腿，它就能自己向前推进。这使得机器人能够分析其最后的表现，解码哪个动作表现得更好，然后在未来相应地改变其行为。很快，机器人开始像醉汉一样蹒跚而行。它会突然向前摔倒，爬起来，走几步，然后又摔倒。但慢慢地，它的表现开始有所改善，学会了蹒跚着走向目标。你几乎可以感觉到它的自信在增加，它抬腿的速度和跑背一样快。机器人不知道它正在运行，因为程序没有设置。但现在它已经开始运行了。它自学了复杂平衡和肢体控制的物理知识。这不仅令人惊讶，而且很神奇。这就像看着一条鱼在40秒内变成一个人。

我说:“机器人移动和开始行走的方式使它看起来像是活的。”

阿比尔笑了:“差不多了。”

虽然在书籍和电影中有各种各样的人工智能渲染，但这个东西不是悬浮在某个蓝色液体盒子里的合成大脑。人工智能是一种算法——一个告诉计算机执行什么功能的数学方程(通俗点说，你可以把它理解为机器的配方；关于更深入的主题，请参考寻找生命的基本算法。21世纪的算法就像19世纪的煤矿:它是我们的经济引擎和现代生活的燃料。没有算法，你的手机就不能工作，也不会有脸书、谷歌、亚马逊。该算法计划飞行，然后引导飞机飞行。该算法帮助医生诊断疾病。《主算法》(Main Algorithm)一书的作者佩德罗多明戈斯(pedro domingos)写道:“如果每一种算法都突然停止工作，我们所知的世界将会终结。”在人工智能的世界里，圣杯是发现使机器能够理解世界的算法，这就像一个标准模型，使物理学家能够解释宇宙的运行机制，除了前者是在数字世界里。

德米斯·哈萨比斯(Demis hassabis)是deepmind伦敦办公室的谷歌智能设计师，也是神经科学家、电脑游戏设计师和世界级的游戏玩家。

数学算法有几千年的历史，是现代计算的基础。输入数据，计算机处理，然后算法吐出结果。但是现在科学家已经开发出可以逆转这一过程的算法，也就是说，让计算机自己编写算法。假设你想让直升机向后飞行:你将编写一个算法来告诉计算机关于直升机控制(输入数据)，然后你将告诉它你想让直升机如何飞行以及飞行角度是多少(结果)，答对了！计算机会释放自己的算法，然后告诉直升机该怎么做。这个过程被称为机器学习，这也是人工智能的核心思想:如果机器可以教自己上下颠倒驾驶直升机，它也应该教自己其他事情，比如如何在火绒机上找到爱人，或者当你和iphone通话时识别你的声音，或者设计一个天网来创造未来的终结者。deepmind的联合创始人德米斯·哈萨比斯说:“人工智能是使机器更智能的科学。”

当然，我们实际上被智能机器包围着。当您使用谷歌地图时，该算法会为您绘制最快的路线，并根据实时数据计算交通延迟，并对交通状况进行预测分析。当你和谷歌语音通话时，它可以识别出你的语音是基于神经网络的，这是一种机器学习算法。它允许计算机将你的话转换成语音片段，然后与其他片段进行比较，然后理解你的问题。Facebook通过图像识别程序扫描数十亿张图片，并拒绝有害内容，如斩首视频和jb图片。

智能机器正在加速，但它将走向何方？从地球上生命的诞生到更高智能的实现用了30亿年。相比之下，在大约60年的时间里，计算机已经从一个巨大的硅芯片变成了一台可以在美国各地行驶或在人群中识别人脸的机器。过去的每一周，都会有新的突破宣布:今年1月，deepmind透露，它已经开发出一种算法，击败了欧洲围棋冠军(这种算法被称为alphago，从3月9日起，它将与韩国围棋高手李世石争夺5盘棋)。当然，它的快速进化仍在人类的控制之下，但很难不去思考我们是否已经到达了智能机器进化的转折点。我们即将见证一个新物种的诞生吗？机器比人类聪明还要多久？

埃隆·马斯克警告人类要注意人工智能的危险

谷歌未来学家雷·库兹韦尔提出了流行的“奇点”理论。奇点指的是硅基机器变得比碳基机器(人类)更聪明的时刻。到那时，进化的天平将向前者倾斜。几年前，他在一次技术会议上表示:“未来我们会对云计算进行深入思考。”他甚至预测了奇点到来的确切时间:2045年。在最近一次会议上的即席演讲中，特斯拉和spacex的创始人埃隆马斯克称人工智能的发展是“对魔鬼的召唤”。尽管他后来告诉我，他的说法有点言过其实，但他说:“智能机器的兴起给我们提出了一个严重的问题，那就是，我们需要考虑我们作为人是谁。我们希望建设什么样的未来？”正如他指出的那样，我们现在严重依赖机器:“我们已经是一个电子人了。如果你不相信我，看看你的手机，你就会知道什么是幻肢综合症。”

这并不是说超级智能机器必须变成超级邪恶才能构成威胁。物理学家霍金最近指出:“人工智能的真正风险不在于它的恶意，而在于它的能力。”“超智能人工智能非常擅长实现自己的目标。如果它的目标和我们的不一致，我们就有麻烦了。你可能不是一个邪恶的蚂蚁憎恨者，你不会出于恶意踩死蚂蚁，但是如果你负责一个水电绿色能源项目，然后需要淹没蚁巢所在的区域，这对蚂蚁来说太糟糕了。让我们不要让人类陷入那些蚂蚁的处境。”

尽管有更智能的算法和更有能力的机器人，超级智能机器的未来仍然更像科幻小说而不是科学。facebook人工智能研究负责人Yann lecun说，“人工智能的智能水平远远低于老鼠。”是的，经过多年的编程和银，ibm打败了沃森。2011年，这台机器击败了测试中最聪明的人类玩家。现在，它是公司“认知计算”行动的基础。它可以在一秒钟内阅读8亿页信息，并消化整个维基百科语料库，更不用说几十年的法律和医学期刊了。但是它不能教你如何骑自行车，因为它的智力是狭隘的——它对世界如何运转一无所知。西雅图艾伦人工智能研究所的Aristo是最复杂的人工智能程序之一，但它对“人们呼吸空气”这句话感到困惑。因为要理解这句话，你需要一些常识——但是机器没有常识。即使常识可以用语言来定义，程序也不知道呼吸空气是否是人们生存所需要的；我不知道人们是每分钟呼吸一次还是一生只呼吸一次。一些令人印象深刻的功能，如skype translator(目前为预览版)，使用户能够实时用不同的语言交谈，还有很长的路要走。在与意大利一名男子的对话中，我对天气的评论被翻译成了对圣经的解释。

"危险"智力竞赛冠军肯·詹宁斯和布拉德·鲁特无助地看着ibm超级计算机沃森攻击这座城市

当然，这并不是说智能机器的崛起只是一种幻觉，也不是说天网不会突然出现在我们难以想象的数据点集合中。自动武器才是真正的威胁，比如无人机杀手，他们可以根据人脸识别技术等数据来执行任务(参见无人机一百年的历史)。但是它们不会对人类的生存构成威胁。朝鲜黑客也不太可能突然创造出一种新的算法，让金三能够向全世界发动终结者攻击。在这种情况下，人工智能不像iphone。写一个新的应用程序，你的工作就完成了。这更像是自己建立互联网——只能慢慢来，需要通过一点点积累来实现。百度首席科学家吴恩达最近告诉我:“担心机器人杀手就像担心火星上的人口过剩——我们还有很多时间来解决这个问题。”

事实上，夸大杀手机器人的问题在于，它掩盖了我们面临的智能机器崛起的真正风险——工人们因为被机器人取代而失业，战争中自动武器的使用增加，以及一个简单的事实，即我们越是依赖机器，出问题时我们的风险就越高。我们生活在这样一个世界中的问题在于人际关系的异化——我们更多地与机器交谈，而不是与人交谈(见电影《她》)，艺术成为和谐的算法输出(见机器学习艺术，facebook的深度学习系统可以创造真实的图像)。人工智能时代也将对隐私构成深远的挑战。智能无人机不仅会在空中监视你，企业也会跟随你的一举一动向你推销产品。正如道德与伦理研究所的CTO Marcelo rine si总结的那样:“未来不是一个永远用一只脚踩在脸上的机器人(注:原句来自奥威尔的《1984》:如果你想想象一幅未来的画面，想象一只脚踩在一个人的脸上——永远如此。”在这个世界里，你所看到的一切都有一个小小的电话推销员，在这个世界里，你了解自己的一切，永远不会停止向你推销东西。”

它也掩盖了与机器深度联盟的好处。大多数研究人员，如deepmind的demis hassabis，认为如果我们给机器智能，它们可以帮助我们解决疾病和医疗保健等大问题，也可以帮助科学家克服气候变化和物理方面的大问题。微软公司的埃里克·霍维茨对人工智能的看法甚至更加宏伟:“对于人类来说，一个大问题是我们的经验是否可以计算？如果是这样，对我们思维方式的更好理解能告诉我们一些关于我们作为地球上的生命的新发现吗？有了这些自我认知，我们能做什么呢？”

待续......

这篇文章是编译自:rollingstone。如果转载，请注明出处

“读完这篇文章还不够吗？如果你也开始创业，希望你的项目被报道，请点击这里告诉我们！”