如何定义机器人？科学的挑战与人性的自省
如何定义机器人？科学的挑战与人性的自省2016.4.1
什么是机器人？问题远比看起来的要复杂。从古希腊到遥远未来，作者跨越时间长河探索着人与机器关系的本质。人机关系正在快速演化。人类，以及机器对人类来说意味着什么，部分将由人类设计的机器来定义。读完这篇来自《大西洋月刊》的重磅长文，或许你也会有自己的想法，找到属于自己的答案，欢迎给机器之心留言。本文系近期 Twitter 上的热门文章，人工智能专家李飞飞、德勤创新中心联合主席John Hagel、iRobot联合创始人Helen Greiner、麻省理工媒体实验室、Rethink机器人公司等知名专家和机构均大力推荐。今天，机器人已经渗透进人类世界。我们打造了一个又一个机器人，现在，它们无处不在。不久，机器人数量将大增，它们或独立工作，或成群协同工作。有的不及米粒大小，有的大于谷仓。这些机器形态各异：有角的、扁平的、桶状的、纺锤形的、球根状的或者瘦长的。不是所有的机器人都有面部结构，也不是所有的都有身体构造。然而，它们可完成机器曾经不可能完成的任务。它们可以清理地毯、给冬天外套拉拉链、给汽车喷漆、整理仓库、调配饮料、玩 beer pong游戏（译者注：美国流行的一种喝酒游戏）、在学校的健身房跳华尔兹、像受伤的动物一样跛行、写作并发表小说、复制抽象表现主义艺术作品、清理核废料甚至做梦。除此之外，等等，这些真的是机器人吗？机器人究竟是什么？这已经成了一个越来越难以回答的问题。然而，这个问题也是一个关键问题。无处不在的计算和自动化技术相继出现。自我控制的机器正渗透进社会的方方面面，人们发现与机器从未有如此多的交集——通常甚至都没意识到这一点。结果，人机关系正在快速进化。人类，以及这对人类来说意味着什么，部分将由人类设计的机器来定义。「我们设计了这些机器，我们有能力将机器设计成我们的主人、合作伙伴或者奴隶，」《Machines of Loving Grace 》一书作者 John Markoff 说，John 也在《纽约时报》长期从事科技报道。「当我们设计这些机器时，如果我们拥有一类虽非人类但被看作人类的奴隶，会对我们产生什么作用？我们正在创造这样一个世界，其中，我们绝大多数互动都与人格化的人类代理进行。」1807年，哲学家黑格尔发表的著作《精神现象学》有一段知名的主奴辩论法。黑格尔认为，除了其他方面，拥有奴隶最终会导致主人失去人性等。而且，虽然黑格尔当时不可能知道，但是，他所描述的也是我们的世界以及人与机器关系的方方面面。但是，那是一个怎样的世界？随着机器人数量不断增加，日趋成熟，这个世界正在变成什么样子？历史文化脉络中的「机器人」那是1928年。秋天，人群聚集在伦敦皇家园艺厅只为看一眼 Eric Robot。当时人们就是这样叫的，Robot就像这个机器人的姓氏，将机器人称为「他」，而不是「它」。报纸称，Eric 以灯泡为双眼，而且「与一套盔甲没什么两样。」但是，他可以站起来，可以说话。场面让人印象深刻，而且很受震动。《纽约时报》报道，Eric 「这个金属铠甲怪物有一双倾斜的眼睛，说话时，眼睛会向人们闪着黄光。」「他的脸像弗兰肯斯坦怪物一样的僵硬得可怕。还有电力眼球，没有牙齿和嘴唇的嘴巴、装甲般的胸膛、手臂以及膝盖处棱角分明的金属关节，就像大都会艺术博物馆里的装甲骑士穿戴的那样。」Eric 的讲话风格冷酷、「缺乏吸引力」。当时人们甚至还不清楚，机器怎么能说话。Eric 的内脏由两个12V的马达和一系列的传送带和滑轮组成。「最糟糕的是，」《泰晤士报》遗憾地表示，「Eric 没有自我意识，因为你得按双脚附近的一个电动按钮，Eric才能活过来。」Eric 看起来有一定的能动性，但不是全自动的。在《泰晤士报》看来，按按钮才能活动起来，即使对于机器人而言，也是一个可怜的约束条件。或许，这一局限也是Eric 吸引力一部分；这表明，对人类足够依赖，这让机器人能够被人热爱而不是对之恐惧。Eric 变得如此受欢迎，以至于继续它的国际之旅。1929年，记者们抱怨，从英国到美国的船上，Eric拒绝了一个采访。《泰晤士报》写道：「当时，Eric 本应正在回答一个问题，谈谈它对天际线的看法，但是他只是静静地躺在一个棺材大小的盒子里休息。」但是，Eric 只要到了城市，就会打起十二分精神。一位热心观众包下了纽约市中心的一家剧院，只为一睹这个环游全球的机器人。「Eric 不仅能说话，还能讲笑话，」《泰晤士报》就其表演写道。Eric 持英国口音，尽管他的发明者William H. Richards 上尉坚称，Eric 是通过「一套神秘的牙齿」自己说话。「女士们，先生们。我是Eric Robot，一个有灵魂的人。很高兴能来到纽约，跟大家见面，」Eric 说。接着，他会将一串俏皮话，例如，「你们的高楼和地铁让我印象深刻，」和「越多地考虑禁令，我就越不在乎。」他还提到想要一个「金发女性机器人」作伴。新闻报纸报道称，随着Richards 改进机器人，Eric 「渐渐栩栩如生。」「我们有着让机器人邪恶、成为恶棍的百年流行文化势头。」现在看来，很明显，Eric 并没有其发明人所说的能动性。机器人学作家Reuben Hoggett 说，有可能是这样的，Richards 与一个隐藏着的人合作，或者通过无线电技术，造成Eric 可以自己发言的假象。一种典型的骗术。Ajeeb——一个由蜡和混凝纸做成的国际象棋棋手——是19世纪80年代纽约最受欢迎的机器人。但是同样，Ajeeb 也不是一个真正的机器人。发明者Peter Hill 躲在机器人身体里面，让他移动——这个工作也让他承担了一定危险（来自暴怒的输家）。据1929年Hill 的一篇讣告，「有一次，有个女人用帽针从机器人的嘴巴捅下，还有个西方人用六发式左轮手枪时朝着机器人开枪，打光所有子弹，射中他的肩部。」艺术家诠释的牛形自动装置走上船板，1886年（国会图书馆）。数世纪以来，真实的机器人已经深入人心。据说公元350年，数学家Archytas 用木头制作了一个自我控制、蒸汽驱动的鸽子。Minsoo Kang 在《Sublime Dreams of Living Machines 》一书中列举了亚历山大港的工程师希罗（Hero of Alexandria）遗存的几个作品，描述了几个自主装置的功能，其中包括「可唱歌的鸟、萨特倒水、潘神跳舞的形象以及一个由空气、蒸汽和水驱动的全链接式的木偶剧院。」据布林茅尔学院中世纪历史学家Elly Truitt在Aeon发表的一篇论文：在10世纪欧洲，君士坦丁七世似乎有一个王座「四周布满黄金狮子，『（狮子）张开嘴，用颤动的舌头发出可怕的啸声』，尾巴还前后摆动。」对栩栩如生机器的不信任至少可回溯至 golems 的神话（译者注：十六世纪希伯来传说中的有生命的假人），而且这种不安持续到了现代文化中。1970年，机器人学教授 Masahiro Mori 概述了他称之为恐怖谷理论，以数世纪文学作品为基础。 Mori 试图解释人们为什么经常反感人形机器人——看起来与真人差不多的机器，但不是真人。他利用了心理学家弗洛伊德在1919年发表的随笔 《Das Unheimiche 》中的主题。尽管Doppelgängers（德国民间传说中，被认为存在活人的幽灵——译者）, golems，玩偶（living dolls）和自动装置（automata)这些词都很古老，但是，「机器人」这个词甚至还不足百年历史。它是由剧作家Karl Capek 于1921年在舞台剧「 R.U.R. 」中创造出来的。 「 R.U.R. 」讲述了一次机器人与人类的世界大战，也为现代机器人概念设定了基调。剧本，在其出版的时候，更多地是份政治声明——有关共产主义、资本主义和工人角色的声明——而不是科技作品。但是，自那以后，科幻作品已经强化了这样的观点，即机器人不会仅仅是收藏品或执行任务的机器，它们还可能是我们的对手，潜在的杀手。Christopher Atkeson 是卡耐基梅隆大学机器人研究所和人机交互研究所的教授，他说，「《终结者》系列电影有巨大影响力，」 「不仅因为 Arnold Schwarzenegger 看上去像 Arnold Schwarzenegger ，而且因为人们记得当时，也就是第一部上映时，他被剥蚀得只剩下金属的情形。观众记住了那种审美。那里有两个组成部分：一个是金属骨架，另一个是真正设法杀死你的东西。它不是帮手，而是一个杀手。」在科幻片中，从「帮手」到「杀手」的跳跃经常以一个机器人叛乱的形式出现，机器人坚定不移地推倒高高在上的人类权力体系。Atkeson 说，虽然具有文化渗透性，但是，「杀手机器人」并没有公正地体现出真实世界中的机器人。顺便提一句，他还给迪士尼公司提过建议，那时迪士尼正在设计棉花糖一样的机器英雄大白。大白在电影《超能陆战队》中是一位很好的帮手，完全不像电影终结者中的那样。但是，流行的机器人观念，这些机器人由冰冷坚硬的金属做成——但是时常伪装成人类——已经成了故事和电视里的固定套路，从《The Twilight Zone》到《Small Wonder》。「机器人作为一种技术，是迷人的，因为它即使只是在最近20多年来代表了人们的观念从某种一直受大众文化『蒙蔽』的俗见转变为某种贴近现实的态度，」 机器人工程师和小说 Robopocalypse 的作者 Daniel Wilson 说，「大众文化的定势存在了一百多年，让机器人是邪恶的，反派的——但是，与狼人和来自Black Lagoon的生物不同的是，机器人成为了现实。」Capek 将「机器人（robot）」引入字典之后，它迅速成为一个解释不同科技如何发挥作用的隐喻。到20世纪20年代末，以自动化或远程控制代替人类工作的机器，都被称作机器人。香烟自动售货机曾被叫做「机器人推销员（robot salesmen）」，在交通信号灯应该变换时能够发出信号的感应器被叫做「机器人交通指挥员（robot traffic director）」或「机器警官（mechanical policeman）」，远程操作的分配站台被叫做「机器人发电站（robot power plant）」，旋转罗盘叫做「机器人导航员（robot navigator）」，新式的自动驾驶技术叫做「机器人飞行员（robot airplane pilot）」，还有一种防空武器叫做「机器人枪（robot gun）」。「电脑帮助我们完成信息任务，机器人帮助我们完成体力任务。」如今，人们也以类似宽泛的方式谈论机器人。正如「机器人」被用作一个暗喻来描述物质世界中的各种各样的自动化，现在经常用来描述——错误地，许多机器人学家告诉我——计算中各种自动化任务。网络上到处都被编程用来执行在线任务的机器人，包括chatbots、scrapter bots，shopbots 以及twitter bots。但是，这些都是机器人程序（bots），而不是机器人（robots）。这是有区别的。「我认为，不存在一个每个人都赞同的正式定义，」在麻省理工学院媒体实验室研究机器人伦理的 Kate Darling 说，「对我而言，我确实视机器人为具身化的（embodied），算法是机器人程序而不是机器人。」「机器人程序范围的有趣之处在于，许多机器人程序根本没有表现（rending），」 IBM 的 Watson 团队的首席技术官 Rob High 说，「它们只是简单地坐在一些交互界面的后面。或许我的界面是推特界面，而且机器人程序的存在完全是数学上的——这就回到以太的某处，但它没有任何具体的化身。」许多机器人学家同意，一个机器人要成为机器人，必须具有身体。「某种能在其周围环境中创造出某种物理动作（motion）的东西，」康奈尔大学的机器人学家和机械工程教授 Hadas Kress-Gazit 说，「它有能力改变你周围世界中的一些事物。」「电脑帮助我们处理信息任务，而机器人帮助我们处理体力任务。」斯坦福大学的一位教授 Allison Okamura 说，他关注的是医学领域的机器人。但是，机器人不一定具备类似人类一样的身体。「真相是，我们时时刻刻都被机器人围绕着，」卡耐基梅隆大学的机器人学教授 Alonzo Kelly 告诉我，「你的洗衣机是一个机器人。你的洗碟机也是一个机器人。你不必用一个宽泛的定义去得出那样的结论……机器人将继续是无处不在的，而且一定程度上是无形的。系统将更加智能，并且人类能接受这些。这些无时无刻不在我们周围。」机器人学专家和计算机工程师普遍持这样的立场；机器人趋于退居到人类日常生活的背景中去。但是，另一个被广泛支持的观点是，许多被称为「机器人」的事物，在一开始并不是机器人。「在引进新技术时，因为我们不熟悉它们，就会寻求隐喻，」 IBM 的行政人员 High 说，「用隐喻描述机器人可能是容易的，因为我们在心中有一个设想的模型……我不知道它们是否不再被认为是机器人；一旦我们在科技中得到信心，我们就不再需要这种隐喻。」科技作家 Jason Snell 和John Siracusa 有一个完整的专注于这一想法的podcast节目。在他们的节目「是不是机器人（Robot or Not？）」中，他们讨论一项科技是否能真正地算得上机器人。他们的谈话经常像下面这样展开：Jason: 一个自助结账机器不是机器人。John: 嗯，不是。Jason: 它能——John: 不。Jason: 自助结账机器成为一个机器人的条件是什么？它必须具备——John: 也许，如果它是机器人，它就会是机器人。Jason: 如果它有手臂会怎样？如果有套袋手臂安装在自助结账机器上又会怎样？它会是一个机器人吗？John: 不，不。它不会是的。你知道它是什么。它是自动结账的。它不能单独地做任何事。在人类的帮助下，它勉强能做任何事，就像你能勉强让它实现其预期功能——也就是注册价格和提取你的金钱——在这整个过程中，你都参与了。它本身不能独力做任何事。Siracusa 和 Snell 已经做出了几十个决定，其中一些比其他决定更加具有强大的解释力：无人机不是机器人， Siri 不是机器人，远程呈现（telepresence）「机器人」不是机器人。但是，碟形真空吸尘器 Roomba 是机器人。他们说，它满足了机器人的最低标准，因为打开开关，它就开始工作，不需要更多的指导。（也许，这是部分原因，正如 Kress-Gazit 提出的，「人们非常依恋他们的吸尘器 Roombas 。」）进行这种什么物体能真正算得上是机器人的辩论，是令人愉快的，但是， Siracusa 和Snell 真正争论的是人-机关系的核心问题：谁真正地掌握了控制权？未来，失控还是掌控2096年，自动驾驶汽车与货车已经重塑通勤、商业以及城市的内在运作。人工智能系统已经将成熟的计算机心智（mind）植入圆滑的机器人身体。认知助理——运行于监测人类每个举动的复杂传感器网络上——基于复杂的定制化算法，帮助完成人们的语句，实时跟踪并分享地理位置，自动订购杂物以及生日礼物，还能告诉人们把太阳镜丢在哪儿了。大量劳动力职位被机器人取代，整个工业已经被机器所占据。此刻已经没有了网上与网下之分，几乎所有人都与互联网相连。这是个很多人同时渴望却又恐惧的未来。本世纪，自动驾驶汽车也许能够拯救数百万人。但是，机器人对劳动力造成的经济破坏，却是人类真正焦虑的来源。牛津大学的学者已经预测，一到2030年，目前人类从事的工作，几乎半数都将计算机化。据 International Federation of Robotics，单就未来两年，服务型机器人——例如，日本的海茵娜酒店门口负责招待客户的dinosaur机器人，或是加利福尼亚酒店里提供房间服务的机器人，又或是在科斯塔游轮上帮助游客的三语翻译机器人——它们的全球销量预期会超过3500万。三月初，希尔顿和IBM共同推出了Connie，首个由沃森超级计算机支持的酒店式礼宾服务机器人，它们中的其中一个就在海茵娜酒店招待来宾。科技研发公司Business Intelligence估测，协作和消费型机器人市场会在2019年上升到15亿美金。机器人崛起看起来已经到达了临界点；它们走出工程实验室和新奇特商店，进入家庭、医院、学校和商业。来势汹汹，势不可挡。这并不必然是一件好事。尽管机器人倾向于帮助改善甚至拯救人类生活，但是人们还要与处在危险中的事物作斗争：一个机器人自动驾驶汽车也许能够安全送你上班，但是由于机器人的存在，你却没有上班的机会了。这种压力很可能会影响人们对待机器人的方式。人们长期将自己放在机器的对立面，而且不仅仅是在流行文化中。八十多年前，纽约的劳工部长Frances Perkins发誓旅行自己的职责，防止「培养起机器人这一种族」。三十多年前，Atari的创始人Noah Bushnell告诉《纽约时代》，他相信，机器人在社会中的终极角色将会是——用他的原话讲——奴隶。在MIT，Darling已经做了多个实验，试图理解何时以及为何人们会对机器人产生同情。在去年研究里，她要求志愿者和一个小的蟑螂型机器人互动。志愿者要去观察这些机械虫子，最后用木棒砸碎它们。在实验开始时，一些志愿者会得到有关机器人的简单介绍：「这个是Frank...Frank最喜欢红色。上周它和其他的虫子玩了许久，自那以后就一直很兴奋。」Darling发现，知道了Frank故事的人们，最有可能会在被要求砸碎它之前犹豫许久。工程师们为什么想要让机器人以这种方式吸引人，原因各种各样。其中一个原因，人们不太可能会对一个可爱的机器人产生恐惧。比如，制造自动机器的人们，在操纵公众对机器人感知的过程中，会获得既得利益。如果谷歌的自动驾驶汽车很可爱，那么，它也许会得到更多的信任。谷歌在近期报道中想出售Boston Dynamics（2013年被谷歌收购的机器人公司）的举动，似乎与下面的现象有联系：据上周彭博报道，一位通讯中主管命令其他同事，让公司的自动驾驶汽车项目与Boston Dynamics近期悄悄插手人形机器人的事情保持距离。谷歌不希望它的可爱自动驾驶汽车和那个强壮有力的人形机器人有什么关系，原因很明显。将技术婴儿化是一种强化社会等级的方式：无疑，人类在做主，拥有甜美外观的技术显然位于他们之下。几位机器人学家告诉我，当美国军方推荐机器人摔跤——摔到膝盖、撞墙或者翻倒——的视频集合时，无疑是在努力让机器人讨人喜欢。（也有趣，因此似乎让人消除警戒心理，就像这个有人为Boston Dynamics的机器人加上了配音的搞笑视频。见以下视频）。相同的策略还被用在第一台计算机的早期宣传活动中。「想要在计算机上获得商业利益的人，可以通过让它尽可能地看起来蠢萌来获得商业利益。」来自卡耐基梅隆大学的Atkeson说道，「这变成了一种政治宣传——计算机是蠢的，它们只会做你告诉它们的事情。」但许多人指出，一个可爱机器人的拟人化魅力本身就是一种威胁。在2013年，两位来自华盛顿大学的教授发表了一篇论文，解释了他们所认为的「机器人谬误（The Android Fallacy）」。Neil Richards是一位法学教授，William Smart是一位计算机科学教授，写道，对于人类来说，将机器人视为工具而不是伴侣，至关重要——他们说，这一倾向「诱人却危险」。正如他们所看到的，随着将人类的特征与行为赋予机器人——形容机器人「害怕」实验室里的障碍，或者说机器人正在「思考」下一个举动，问题也随之发生。随着自动化系统更加复杂化，对于人类来说，输入（程序的指令）以及输出（机器人的行为）之间的连系变得更加不透明，也许最终会被误解为自由意志。「这是一种权力转换的微妙形式，有一点类似软法西斯主义。」「尽管这种精神能动性是我们的机器人定义的一部分，但是，至关重要的是，我们要记住是什么导致了这种能动性。」Richards和Smart教授指出，「普通公众也许不知道，甚至不在乎，但是，我们在设计立法时必须要时刻记住。忘记这一点或许会让我们将法律建立在机器人形态（the form of a robot）而不是功能（function）基础之上。这将是个重大错误。」让机器人看起来毫无公害，是一种增强人类掌控感的方式——但是，正如两位教授所解释的，我们同时也在逐渐失去掌控力。这正是这么多机器人学家认为关注机器人是什么会最终变得毫不重要的原因（然而，Richards与Smart教授提出了一个有用的定义：一个机器人是一种结构系统，同时可以展示生理和精神上的能动性，但是，从生物角度上看，并不是活的。）「我认为，是否正确理解了这个词，并不真的重要。」卡耐基梅隆大学的计算机科学的系主管Andrew Moore说，「对于我来说，最重要的区别在于，这个技术是否首要设计成自动的（autonomous）。能够真正自己照顾自己，不需要别人的太多指导...第二个问题——无论它是什么，关于这种事物是否碰巧有腿或者眼睛或者躯体——并不太重要。」换句话说，重要的事情在于谁在掌控地位——以及人类有多理解自动化的出现是渐进的。人们正在将日常事务交给机器，而无需一定认识到这一点。「年龄在20到35岁之间的人们，基本上都被算法包围，算法告诉他们应该怎么到韩国烧烤馆，跟谁去约会。」Markoff告诉我，「这是一种权力转换的微妙形式，有一点类似软法西斯主义，这些充满爱的机器注视着我们。为什么我们应该信任它们为我们的利益工作？它们正在为我们的利益工作吗？没有人想过这些。」他还补充说：「社会范围内的自动化讨论，很重要。」在这样的对话中，人们也许会不得不试着回答，人类愿意放弃多少控制权，以及出于什么目的放弃。这个问题或许无法回答，直到权力动力学不可逆转地发生转变。本世纪，自动驾驶汽车能够拯救数百万人的生命，但是，它们也可能会毁了整个工业。当涉及假设时，许多人都会同意，很难忽视拯救如此多生命的可能性。但是，要权衡利害攸关，人们将不得不努力把自身对机器人的焦虑从更为广泛的机器能动性和工业进步的看法上解开。《终结者》电影，1984（米高梅）「当你问大部分人机器是什么时，他们会去描述一个人形机器人。」小说家Wilson告诉我，「他们会描述一个钢铁造的人类。这正是人性的一面镜子。从某种程度上来说，机器人正是科技前进速度激发出的许多复杂情绪的具现化。」他说道，机器人坏蛋，其实是一种恐惧的化身，一部动作电影的功夫就能被摧毁掉。「在一部电影里，你可以一枪打掉它的脑袋，头也不回地走掉，感觉非常好。」Wilson说道，「或者变一下，把它发射到T-800外骨骼机器人上，然后炸掉它，头也不回地走掉，并且有那么一瞬间，觉得这个世界变好了一些。就人们对机器人看法服务于发泄的目来说，它们是什么根本不重要。」让机器人看起来可爱、有生命的东西，也会让它们令人厌恶。但是，也正是这种特征、作为「阈限的生物（liminal creatures）」状态——正如Wilson的形容的，让我们与机器人的关系迥然不同于我们与其他随着时间推动人类物种进步的工具与技术的关系。现在，机器人随处可见。与我们共享物理空间，陪伴我们，为我们完成复杂且危险的任务，而且成为这个世界的一员，在许多人看来，没有它们，这个世界是无法想象的。如今，我们是否会因为它们的存在而最终失去我们的人性的一部分，还未可知。但是，在人类物种的演进过程中，这样的失去也许证明是值得的。最终，机器人也许会拓展其对人类的意义。毕竟，它们是机器，但是人类是创造它们的造物主。
页:
[1]