终结者1984

第004期 卡梅隆的机器梦魇 - 《终结者1》 (qq.com) (影音杂志）

30多年前，卡梅隆的一场噩梦创造了终结者这个冷血的机器杀手形象，这位卡车司机就此成为好莱坞最具影响力的导演。《终结者1》是一部低成本的科幻惊悚片，在有限的预算下，卡梅隆为我们呈现了许多震撼的未来战争场面。

未来场景在《终结者1》中出现多次，大多用模型实景拍摄，相比当今的CG动画更加具有质感。

现今流行的“穿越”也是《终结者》系列电影不能缺少的桥段之一，闪电、光球，以及穿越者赤身裸体都成为永恒不变的符号。▲终结者的经典蹲姿

▲可怜的人类总是不能安全着陆 卡梅隆在影片中喜欢展现现实世界的各种机器设备，特别是重型机械，体现了人类对于机器依赖，以及对于机器的担忧。

▲重载叉车

▲工地上的各种重型机械

▲工厂里的机械手臂 “终结者就在那里，你无法与它讨价还价，无法与它讲道理，它感觉不到遗憾、懊悔或害怕，它绝不会停止，永远!直到将你终结。”

这是对终结者精神的完美定义。

▲被打倒在地后缓缓起身继续追击。

▲火烧车撞只能稍稍减缓他的脚步。

▲双腿残破依然继续前行。

▲被烧的只剩骨架也要继续追杀。

▲炸的只有一半身体仍旧紧追不放。

终结者就像打不死的“小强”，不断刺激着萨拉和观众的神经，不过这些特质放在冷血的机器人身上却让人信服，因为机器只是在执行它的预设程序而已。

萨拉.康纳是《终结者》系列电影中另一个符号性的人物，她原本只是一个快餐店的招待，甚至连这么简单的工作也把她搞得手忙脚乱。 突如其来的危机让她置身于恐惧和无助之中，“救世主的母亲”更让她莫名地担负起子虚乌有的责任。

现实存在的危难让萨拉无法逃脱，只能与之抗争，而内心的坚毅与勇气最终被激发出来。

坚持与成长是本片的两个主题。终结者矢志不渝的完成程序所设定的任务，无论遇到任何挫折与意外，它的目标始终不变。放在人类身上，这就成为了一个难能可贵的品质。很多人做事可以有一个非常漂亮的开头，甚至也有过克服挫折的努力，但是多次打击终会让他选择放弃。失败是大概率事件，那些持之以恒、不屈不挠的人最终会尝到成功的果实。挫折使人成长，萨拉历经危难最终成为坚强的女战士，如果没有坚持，如果选择放弃，终结者的使命便可以提前结束。然而萨拉是最终的胜利者，她的胜利让她具备了胜利者宝贵的经验与技能，这就是成长。坚持不懈的过程给我们经验，而成功让我们确认了经验的效果，经验变成了技能。

《终结者2审判日》是大家经常“洗版”的电影，然而很多人不知道《终结者1》也出过加长版，而且增加了长达8分钟剧情。

▲警长在临死前将手枪交给凯尔，其形象更为饱满，并不像其他警员那样无能和敷衍，警长一直对于萨拉和里斯表现出关切和责任心。

▲萨拉找到了塞伯丁电脑公司的地址，决定要炸掉公司，并最终说服了里斯。这也解释了他们准备炸弹的真实目的，同时呼应了续集中她几次企图炸掉塞伯丁的情节。

▲事件结束后塞伯丁公司高管发现了终结者的芯片。这个漫威式的“彩蛋”，或许在剧场版中删掉确实是更好的选择。

画面篇

影片结尾萨拉与未出生的孩子的对话，也是凯尔手中萨拉唯一照片中的画面。萨拉驾车驶向风暴来临的远方。

这段画面色彩饱满，不同于整片的黑暗与金属风格，让人感觉温馨、舒适，给经历磨难与恐惧的心灵以些许慰藉。然而乌云的阴影慢慢扑来，未来依然危机四伏。

配乐篇

名不见经传的布拉德.菲德尔用简单的音符组合创造了电影音乐史的永恒经典。而这首旋律用钢琴弹奏则另有一番味道。

萨拉与凯尔窗前互诉衷肠。

音乐给与了更多的柔情以及未来的使命感。

表演篇

在所有系列电影中，《终结者1》中阿诺德.施瓦辛格的表演是最成功的一次，当时施瓦辛格在影坛还是一个新人，冷酷的机器人似乎是为他量身定做的一般。

除了强壮的身躯，健硕的肌肉，面无表情的施瓦辛格让人相信它就是一部机器，而且演出了让人不寒而栗的感觉。

皮衣墨镜的外形设计再加上摩托车使其成为终结者的标配。

反观除了《终结者1、2》以外的续集中各种终结者的表演，或者过分表现冷酷，或者不经意流露出人类的表情，都无法让人信服。即使施瓦辛格自己的演绎也显得些许刻意，过于注重情怀。

迪斯科

迪斯科起源于20世纪六七十年代的法国，本意是播放唱片供人跳舞的舞厅Discotheque。70年代后期以致整个80年代成为欧美最流行的时尚文化。

迪斯科舞曲节奏动感，节拍强劲，跳舞者很自然地跟随节拍扭动身体。迪斯科舞没有规定的动作，人们随意舞动、即兴发挥，动作幅度大，频率高，容易令神经兴奋。

70年代好莱坞著名的两部反映迪斯科舞的影片

▲《周末夜狂热》 , 1977， 《油脂》 , 1978

这两部影片使演员约翰特拉沃尔塔声名大噪，成为当时的大众偶像。

迪斯科文化也影响着大众穿着时尚，喇叭裤、蛤蟆镜，肩扛手提式录音机成为最新潮的打扮。

大卷发，发带，健美裤也成为迪斯科舞者的标准装扮。

2度科学技术

机器人机器人一词最早出现在捷克作家萨佩克的《洛桑万能机器人公司》的剧本中，意思为“奴隶”。▲Karel Capek，1890—1938

后来著名的科幻小说家阿西莫夫定义了机器人三大法则。

▲艾萨克·阿西莫夫，1920年1月2日-1992年4月6日

一、机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观

二、机器人必须服从人给予它的命令，当该命令与第一法则冲突时例外

三、机器人在不违反第一、第二法则的情况下要尽可能保护自己的生存

现实中，机器人最先在工业领域发展起来。

▲1962年，“机器人之父”约瑟夫.恩格尔伯创建的Unimation公司推出了第一台工业机器人Unimate。

▲日本本田技研工业株式会社研制的仿生机器人阿西莫。

▲Festo公司一系列的仿生机器人，包括仿生飞鸟、蜻蜓、蝴蝶、蜘蛛等等。

▲波士顿动力公司研发的机器人阿特拉斯。

如今教育类机器人，家务型机器人已经进入到人们的日常生活中。我们已经身处机器人时代，机器人是否会成为人类生存的威胁，让我们拭目以待。

流行音乐

80年代舞曲

詹姆斯卡梅隆非常善于利用流行音乐来烘托电影的氛围，在《终结者》这部电影中，充满了80年代节奏动感、激情四射的流行歌曲。

电影中有多首塔妮凯恩以及她的Tryanglz乐队演绎的舞曲，这是一个名不见经传的组合，塔妮是活跃在音乐、电视、电影界的多栖明星，Tryanglz是一个临时组合，时间不长，作品也不多。

不过他们为《终结者》电影创作的几首歌曲都非常好听，也随着电影成为经典。

迪斯科在80年代风靡全球，随之诞生了许多经典的迪斯科舞曲，而其中当属欧陆舞曲最为流行。当年香港飞时公司出品的《猛士》、《荷东》系列为我们打开了欧陆舞曲的大门。

♪ 说你永不会-莲露丝

SayYou'llNeverLianRoss-SayYou'llNever2013

莲露丝，当时最红的欧陆女歌手，被国人誉为“荷东女王”，她来自德国，她的多首歌曲如“Do you wanna funk”,"You're my heart, you're my soul"都红极一时。

BrotherLouieModernTalking-ReadyForRomanceMorden Talking这个名字知道的人一定不多，但是“Brother Louie”这首歌的旋律相信无人不知无人不晓。这个乐队也来自德国，由词曲作者Dieter Bohlen以及歌手Thomas Anders组成，他们在80年代风靡全球，许多歌曲都有中文版本，流行于内地和港台。

Laura Branigan来自美国纽约，曾与1982年出道就凭借《Gloria》获得格莱美最佳女歌手提名。而这首《Self control》更加兼具舞曲与流行歌曲的元素，是我非常喜欢的一首歌。Laura与80年代末急流勇退，而2004年就因病辞世，年仅47岁。

Grant Miller也是80年代迪斯科舞坛的风云人物，他于1985年推出的歌曲《Colder than ice》享誉世界，而他的其他作品也都质量上乘，成为各大舞厅炙手可热的歌曲。

New Baccara是一对来自英国的二重唱组合，成员为Mayte Matee和Maria Mendiolo，她们推出的第一首单曲《Sir I can boogie》就取得英国排行榜第一名的好成绩。而她们这首《Fantasy boy》在动感的节奏外还充满了科技之风。

Patty Ryan，德国女歌手，歌曲风靡亚洲，尤属《My love my life》和《Love is the name of the game》最为经典。Patty的音乐跨越20余年，经久不衰，整整影响了一代舞曲音乐爱好者。

斯坦·温斯顿 电影《终结者》在预算极低的情况下为我们呈现了令人叹为观止的电影特效，这离不开特效大师斯坦温斯顿的功劳。

斯坦温斯顿1946年出生于美国加利福尼亚州的里士满，是美国最著名的电影制作人、导演、编剧，他在《终结者》中担任副导演。

在数字特效没有成为主流的年代，斯坦温斯顿通过出神入化的妆容，逼真的模型将电影带入了一个特效时代，他成立的斯坦温斯顿工作室至今还在好莱坞主流大片中发挥着重要的作用。

▲斯坦与终结者

▲《侏罗纪公园》中巨大可爱的腕龙

▲斯坦与卡梅隆在讨论《异形2》的设计

▲与斯皮尔伯格以及萨姆尼尔等主创在“受伤的三角龙”前休息

▲著名的剪刀手爱德华

斯坦温斯顿于2008年6月15日在马里布与世长辞，异形、终结者、金刚、铁血战士、霸王龙，斯坦与他创造的众多经典形象永远让我们铭记这位划时代的大师。

汉堡包

两块面包，夹着包括肉饼的各种食材，就成为最方便、最流行的美食。 现代的汉堡发明于19世纪80年代的美国。

▲1885年，美国威斯康星州一名叫汉堡查理的人在当地集市上出售自己制作的汉堡。

▲汉堡其实就是碎牛肉混合其他食材做成的肉饼，由古代鞑靼人传入巴尔干半岛，然后传到德国，由汉堡人加以改进，因此称为汉堡肉。 汉堡被视为热量和垃圾食品的代名词，然而汉堡中的主要食材为肉类、蔬菜、谷物，营养搭配其实非常合理，应该是当之无愧的健康食品。汉堡界的也有“保时捷”、“劳斯莱斯”：

▲纽约666 Burger的Douche汉堡，和牛、龙虾、鱼子酱、鹅肝、松露，加上香槟蒸汽融化的古老也芝士奶酪，汉堡由价值300美元的6层金箔包裹，以致你吃过之后不知拿它们如何是好。

▲印度尼西亚雅加达四季酒店的Million Rupiah汉堡，日本神户牛肉、意大利波托贝洛蘑菇配上芥末蛋黄酱，放入自制的面包，将东西方食材汇聚到一起。

▲主厨Ciaran Hickey发明的X汉堡，由澳洲和牛肉，鹅肝酱和黑松露加上黄油面包，品尝这款汉堡一定要配上特制的酱汁。

▲纽约St. Giles Court酒店的Beer& Buns的放纵汉堡，神户牛肉，鱼子酱和白松露，再加上意大利培根和鹅肝，让我们把好身材抛到一边吧。

▲纽约Serendipity 3的奢侈汉堡，日本和牛盖上白松露酱，18个月的车打芝士，黑松露，煎鹌鹑蛋，卡露伽鱼子酱，稀奶油，放纵之后再来奢侈一把。

▲伦敦厨师Honky Tonk带来的Glamburger，日本神户牛肉配以新西兰鹿肉，鱼子酱、黑松露、龙虾、熏鸭蛋、日本抹茶、白松露、培根，最后裹上金箔，价格接近2000美元。

看了这么多，让我们咬一口“巨无霸”压压惊。

品尝完美食，我们的电影之旅也几近尾声，喜欢的朋友们记得关注公众号，帮忙转发，五度电影空间还会为您带来更多的电影解读。

微信号：五度电影空间

本文转自机器之心，原文选自arxiv，

作者：Toby Walsh University of New South Wales and Data61 （formerly NICTA），

编译：李九喻、孟婷、柒柒。

已经发明的技术和展望中的技术：

公元前1,500,000年 最早的石器 (环境限制的突破)

公元前300,000年 火 (环境限制的突破)

公元前70,000年 绘画 (环境限制的突破)

公元前45,000年 贸易系统 (环境限制的突破)

公元前40,000年 木船 (环境限制的突破)

公元前5000年 车轮 (环境限制的突破)

公元前3000年 楔形文字 (文化限制的突破)

公元前500年 指南针 (环境限制的突破)

公元前100年 造纸术 (文化限制的突破)

公元800年 火药 (环境限制的突破)

公元1100年 活字印刷 (文化限制的突破)

公元1400年 远洋帆船 (环境限制的突破)

公元1609年 望远镜 (环境限制的突破)

公元1644年 显微镜 (环境限制的突破)

公元1770年 蒸汽机 (环境限制的突破)

公元1826年 照相技术 (环境限制的突破)

公元1876年 电话 (环境限制的突破)

公元1880年 灯泡 (环境限制的突破)

公元1903年 飞机 (环境限制的突破)

公元1945年 原子弹，计算机 (环境限制的突破)

公元1950年代 性别激素/变性技术 (生物限制的突破)

公元1957年 人造卫星 (环境限制的突破)

公元1969年 最早的计算机网络 (环境限制的突破)

公元1980年 试管婴儿 (生物限制的突破)

公元1996年 生物复制技术 (生物限制的突破)

公元2007年 DNA端粒延长(寿命延长技术) (生物限制的突破)

----------------------------------------

（猜想）

公元2029年 超越人类智能的机器

公元2045年 纳米技术的普及 (生物在化学物质基础限制的突破)

公元2070年 仿生物技术的大规模普及 (生物在化学物质基础限制的突破)

公元2080年 意识上传 (意识突破肉体限制)

狭义技术奇点 (生物在化学物质基础限制的突破)

21世纪以后 突破物理定理的限制 (突破引力，光速) (物理限制的突破)

21世纪以后 能量表达方式突破3维空间的限制 (数学限制的突破)

21世纪以后 突破时间的限制，观察到过去，现在，和未来，在未来的那个时刻创造我们现在生活的世界 广义技术奇点 (因果逻辑限制的突破)

如今，对人 (AI) 感到悲观或乐观的都大有人在。乐观者正在向人工智能领域投资数百万美元甚至数十亿美元，而悲观者则预测人工智能将终结很多事：工作，战争，甚至人类。无论是乐观主义者还是悲观主义者都被所谓技术奇点 (technological ingularity) 的概念吸引。技术奇点是一个机器智能失控的时间点，在它之后一个全新的、更加智慧的「物种」将开始居住在地球上。如果乐观主义者是正确的，那么这将是一个从根本上改变人经济和社会的时刻。如果悲观主义者是正确的，那么这将同样是一个从根本上改变人类经济和社会的时刻。因此，我们有必要花些时间决定这些看法是否正确。

奇点的历史

技术奇点的概念可以追溯到几个不同的思想家。在约翰·冯·诺伊曼 (译者注: John von Neumann， 20世纪最重要的数学家之一，在现代计算机、博弈论等领域均有建树) 1957年去世时，斯塔尼斯拉夫·乌拉姆 (译者注: Stanislaw Ulam - 波兰数学家) 写道：

「我与约翰·冯·诺伊曼讨论过在技术不断加速发展、人类生活模式的改变下，我们看上去正在接近物种史上某个重要的奇点，在它之后已知的生活将无法延续。」 在1965年，I.J. 古德 (译者注: I.J. Good，英裔数学家、密码学家) 对这个现象提出了更具体的预测，他用「智能爆炸」(Intelligence Explosion) 取代了「奇点」 (Singularity) 的概念：「让我们把超智能机器定义成为一台能够远远超过任何人类智力活动的机器。 因为设计机器本身也算是智力活动，所以超智能机器可以设计出更好的机器；毫无疑问，这将会带来智力的爆炸式增长，而人类的智力将远远落后。以此类推，超智能机器将会是人类最后一个发明。」 许多人把 「技术奇点」归功于计算机科学家。科幻小说家弗诺·文奇 (Vernor Vinge) 更是预言：「在三十年内，我们将创造出实现超人智慧的技术。不久后，人类的时代将结束。」

近来，技术奇点的概念又得到了包括雷·库兹韦尔 (译者注: Ray Kurzweil ，发明家、企业家、学者、《奇点临近》等畅销书作者) 在内许多人的推广。根据目前的趋势，库兹韦尔预计技术奇点会发生在2045年左右。就这篇文章的定义而言，我假设技术奇点是一个「当我们创造出拥有足够智慧、能通过重新设计自己来改进智力的机器」的时间点，并且在这个点上我们将见证智力以指数级增长，并且迅速超越人类。

我将用两个数学论证来为以上观点辩护。其中一个论证是：技术奇点不是数学奇点。在函数1/(1-t)中，数学奇点是t=1。该函数演示了双曲增长。当t接近1，t的导数趋于正无穷并且无法被定义。然而，许多技术奇点的拥趸只支持指数增长的说法。例如，函数2^t呈指数增长。这样的指数函数在接近正无穷时更慢，并且有一个可以被定义的有限导数。其二个论证是：智力的指数增长完全取决于测量智力的数值范围。如果我们以对数分度向量（logspace）测量智力，指数增长仅仅是线性的。在这里，我暂时不解释测量机器或者人类智力的具体定义或方法。我只假设有一个可以被测量、比较的特质叫做智力，并且当智力在适当、合理的数值范围内呈指数增长时，我们将迎来技术奇点。目前，技术奇点的可能性已经迫使几名评论家发出关于人工智能对人类影响的悲观预言。例如，在2014年12月时，史蒂芬霍金对BBC电视台说：

「人工智能的全面发展可能意味着人类的终结……机器将获得自主权，并且以前所未有的速度重新设计自己。被缓慢生物进化限制的人类将无法竞争并且最终被取代。」

其他的知名人物，包括比尔·盖茨，伊隆·马斯克和史蒂夫·沃兹尼亚克也随后发表了类似的警告。尼克·博斯特罗姆 (译者注: Nick Bostrom ，牛津大学人类未来研究院院长、哲学教授、著名人工智能学者) 也做出了对技术奇点的预言，并且认为这个现象将对人类的生存造成威胁。然而这篇文章与以上的观点相反，我将探讨的观点是：技术奇点或许永远不会临近。

反对技术奇点的论点

对技术奇点的争论多数发生在主流人工智能行业以外。在某种程度上，这个概念的许多拥趸都不是真正的从业者。在主流文化中，技术奇点也和一些例如寿命延长和后人类主义等挑战现状的想法关系密切。这种联系干涉我们探讨真正重要的基础问题：人类真的可以开发出能够成倍提高自己智力并且远远超出人类的机器吗？虽然它看上去并不是一个特别大胆的想法。计算机领域已经在指数增长的同时不断壮大。摩尔定律 (Moore’s Law) 以合理的精准预测告诉我们，晶体管上集成电路的数量（指每块芯片的储存量）将在1975年之后每两年内翻倍。库梅定律 (Koomey’s Law) 也已预测，单个能量焦耳所支持的计算次数将在1950年后的每19个月内翻倍。以此类推，为什么不能假设人工智能也会在某个时间段内实现指数增长呢？

针对技术奇点实现的可能性，以上的说法是一些有力的论据。准确地说，我并不是在预估人工智能无法拥有超出人类的智能。与许多在人工智能行业工作的同事一样，我预测人类离这个阶段还有30到40年的时间。不过与一些人的观点相反，我认为未来将不会出现失控、呈指数增长的情形。我将在接下来的文章里提供多个关于不可能有技术奇点出现的支持论点。

以下的讨论不包括所有技术奇点的反对论点。举例来说，我们也可以假设人工智能创造出了自己的人工智能。因此，阿兰·图灵 (Alan Turing) 在其影响深远的Mind论文（ Turing 1963）中提出了针对人工智能的九种通俗反对意见，例如机器不能拥有意识，或者不具有创造性。在这里，我将集中精力讨论人工智能在智力上失控增长的可能性。

论点一：快速思维的狗（Fast Thinking Dog）

其中一个由技术奇点支持者提出的先锋观点是：硅与人类大脑湿件(wetware)相比有重要的速度优势，并且根据摩尔定律这一优势每隔两年都会翻倍。不过，速度提高不代表智力增长。在这个问题上，弗诺·文奇认为一条快速思维的狗仍然不可能懂得下棋。史蒂芬·平克 (Steven Pinker) 意味深长地表示：

「我们没有任何理由相信技术奇点会到来。人可以在自己脑海中想象未来，但不能证明它是否具有实现的可能性。在我的孩童时代，人们想象过的半球形城市，喷气交通运输工具，水下城市，一英里高的建筑，核动力汽车，以及很多未来式的幻想在今天从来没有得以实现。最终，单纯的运算处理能力无法像魔法一样奇迹般地解决所有问题。」

智力不仅是比别人对一个问题思考更快或是更久。当然，摩尔定律肯定对人工智能的发展有帮助。我们现在用更大的数据集学习。也学习地更快。速度更快的计算机肯定会帮助我们开发更好的人工智能。但是，至少对于人类来说，对智力的评估取决于许多其他的事情，其中包括日经月久的经验和训练。不能在机器计算中仅靠增加时钟频率（即计算速度）抄近道。

论点二：人类中心主义（Anthropocentric）

在许多对技术奇点的描述中，人类智力被假设成为一个需要跨越或颠覆的临界点。例如，尼克·博斯伦特写道：

「拥有人类智力水平的人工智能的问世将会迅速带来通向高于人类水平人工智能的发展……与此同时，机器与人类在智力上的匹配将是暂时的。此后不久，人类将无法与人工智力竞争。」

人类智力范围是从蟑螂到老鼠再到人类的分布广泛的范围。事实上，与其说智力是一个点，不如说它是一系列概率的分布。我们并不确定人类将在具体哪一个点上被人工智能失控的智力增长超越：这个点具体是指人类的平均智力？还是人类史上最聪明的人？

科学史的教训告诉我们，人类远没有自己想象的那么特殊。哥白尼告诉我们，宇宙并不绕地球转。达尔文告诉我们，我们与猿类没有本质区别。人工智能可能会告诉我们，人类的智力也并不特别。我们没有理由因此假定，人类智力是个一旦通过，智力将快速增长的特殊临界点。当然，这并不排除智力转捩点本身存在的可能性。

技术奇点的支持者提供的说法之一是，我们是唯一能够通过创造来拓展自己智力的物种，因此人类智力是一个特殊的临界点。我们是地球上唯一拥有足够智力设计新智能的物种，并且这些被设计出来的新智能不受进程缓慢的繁衍与进化限制。然而，这一类说法假定人类的智力可以设计出一个智力足以跨越技术奇点的人工智能。换句话说，它在我们决定是否有技术奇点之前，就已经下定它确切存在的结论。人类可能，也同样可能不会有足够的智力设计出这样的人工智能。我们并不是被注定要创造出这样的东西。再者说，即使我们有足够的智力设计出了能够超越人类的人工智能，这样的人工智能也不一定能够带来技术奇点。

论点三：元智力（Meta-Intelligence）

在我看来，反对技术奇点的其中一个强有力论点是，技术奇点混淆了完成工作的智力和提高完成工作的能力之间的区别。在对技术奇点的概念进行详细分析后，大卫·查莫斯 (译者注： David Chalmers，澳大利亚裔哲学家，认知科学家 )写道：

「如果我们通过机器学习创造一个AI，不久之后我们将能够改善学习的算法并且延长学习的过程，创造出接下来的AI+。」

在以上的论述中，AI是人类智力水平的系统，而AI+是比一般人类更聪明的系统。不过，为什么查莫斯认为我们可以在不久之后提高学习的算法？历来机器学习在算法方面的进展既不迅速，也不容易。机器学习的确有可能成为未来任何人类智力级别的人工智能系统的重要部分，因为除此之外，利用人工编码知识和专长是很痛苦的过程。假设，一个人工智能系统选择采用机器学习来提高自己理解文本，完成数学证明的能力。该人工智能的系统没有理由能够改善机器学习本身自带的算法。事实上，机器学习的算法通常在某一项工作上已经达到极限，不论是工程还是参数的调整，都无法提高其性能。

目前，我们看到使用深度学习的人工智能令人印象深刻的进度。这极大地提高了语音识别，计算机视觉，自然语言处理及许多其他领域的发展。这些进度通常归功于使用更多数据以及更深层次的神经网络：

Yann LeCun表示: 「在此之前，神经网络并没有打破识别连续语音的记录；因为它们的大小有限。」

当然，更多的数据和更大的神经网络意味着我们需要更强的机器处理能力。其结果是，GPU现在经常被用来提供处理能力。然而，学会更好地识别语音或者物品并没有帮助深度学习进步。深度学习并没有自我改善。对深度学习在算法上的任何改善都要归功于人类在设计上的不懈努力。

我们也可以从另一方面用我们所了解到的有关智能系统的最好例子来例证这一论点。看看我们自己。我们只使用了我们自己大脑惊人能力中的一小部分，而且我们正努力地想要改变现状。对我们来说，学习如何更好地完成某个特定任务很简单，但学习如何更高效地学习还需要下点功夫。举例来说，如果我们除去对智商固有的正常定义，我们可以察觉到智商在上个世纪内有增长，但增长速度缓慢 （弗林效应「Flynn Effect」）。在今天，提高智商的过程和一个世纪以前一样痛苦并且缓慢。或许，电子大脑也很难快速提高自己的性能，并且永远无法超越自身的基本功能？

论点四：收益递减 （Diminishing Return）

技术奇点通常假设智力的改进是一个相对恒定的乘数，每一代的分数都比上一代更高。然而到目前为止，大部分人工智能系统的性能一直在经历收益递减。在不同研究的初期，研究人员通常获得许多成果，但在这之后则遇到一系列难以改进的困难。这个过程解释了许多早期人工智能的研究人员对行业发展过于乐观的看法。人工智能系统也许可以无限制地完善自己，但对智力的总体改进很可能存在上限。举例来说，如果每一代人工智能比上一代增强半倍，那么系统永远不会达到2倍的整体智力。

收益递减不仅是由于改进人工智能算法的困难度，也是由于计算机科学快速增长的困难度。微软的联合创始人保罗·艾伦称这一现象为 「复杂性刹车」(Complexity Brake)。

「我们把这个问题叫做复杂性刹车。伴随人类对自然系统理解的不断加深，我们通常会发现，我们需要更多并且更专业的知识来描述它们，我们不得不用越来越复杂的方式来持续扩展我们的科学理论… 我们相信，对自然世界 [认知上的] 理解正在被复杂性刹车放慢。」——Allen和Greaves，2011。

即使人类看到人工智能系统持续、甚至呈指数级的改进，这些或许都无法提高机器的性能。智力提升所需要解决的问题本身的难度增长速度，甚至比智力提升的速度还要快。很多人表示，现阶段理论物理学的探索似乎也遇到了同样的复杂性刹车。

论点五：智慧的极限 （Limits of Intelligence）

宇宙中存在很多基本的限制。其中一些是物理限制。例如，我们无法加速超过光速。我们无法同时知道位置和动量的精确数值。我们无法知道原子放射性衰变具体发生的时间。我们创造出来的思维机器也受这些物理定律的限制。当然，如果机器在本质上是电子或者甚至是量子，这些限制很可能比人类大脑生物和化学的限制还要大得多。

更多可观察的经验法则也在复杂的系统中不断涌现。例如，邓巴数（Dunbar’s Number）是灵长类动物脑容量和社会平均大小之间所观察到的联系数值。该数值把人类社会团体中关系稳定的人数限制在100到250人之间。智力是一个复杂的现象，并且也会有类似的限制出现在这种复杂度中。机器智力的改善，无论是失控还是缓慢地增长，都可能碰触到这种限制。当然，我们没有理由假设人类智力目前已经达到、或者接近这个上限。同样来说，我们也没有理由认为这个上限远远超过了人类的智力。

论点六：计算复杂性（Computational Complexity）

假设我们坚持使用遵守传统计算模型的电脑开发人工智能系统。那么，指数级增长也无法与计算的复杂度匹敌。举例来说，计算机性能上的指数级增长不足以运行超级指数算法。而且没有任何性能上的增长可以解决无法解决的问题。计算的复杂性也许正是我们前面所讨论到的基本限制之一。因此，除非我们使用的机器能够超越传统的计算模型，否则我们很可能会碰到类似于计算的复杂性从根本上限制了计算机性能的问题。当然，很多计算的复杂度问题只是最坏的情况，大部分的人工智能都使用启发式学习在实践中解决计算上难以处理的问题。不过，这些启发式学习在质量上有根本的限制。有一些级别的问题即使超人工智能 (super-human intelligence) 也不能很好的解决，哪怕只是大致解决。

结论

在以上的文章中，我论述了关于人类也许永远无法见证技术奇点的许多原因。然而，即使没有技术奇点，我们也许仍然可以最终拥有展现出超人智力水平的机器。我们可能不得不自己费力编写这个超能力。如果是这样的话，人工智能对经济和社会的影响，要比对技术奇点持有悲观或乐观态度的人所预测的结果平淡得多。然而，我们应该就人工智能对社会的影响开始做准备。就算没有技术奇点，人工智能依旧会大面积影响工作的性质。举第二个例子：即使智力有限的人工智能依然可以对战争的性质产生很大的影响。现在，我们需要开始为这样的未来做计划。

参考文献：

[Allen and Greaves 2011] Allen, P., and Greaves, M. 2011. The singularity isn’t near. MIT Technology Review 7–65.

[Bostrom 2002] Bostrom, N. 2002. When machines outsmart humans. Futures 35(7):759–764.

[Bostrom 2014] Bostrom, N. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford, UK: Oxford Uniiversity Press.

[Chalmers 2010] Chalmers, D. 2010. The singularity: A philosophical analysis. Journal of Consciousness Studies 17(9-10):7–65.

[Edwards 2015] Edwards, C. 2015. Growing pains for deep learning. Commun. ACM 58(7):14–16.

[Good 1965] Good, I. 1965. Speculations concerning the first ultraintelligent machine. Advances in Computers 6:31– 88.

[Kurzweil 2006] Kurzweil, R. 2006. The Singularity Is Near: When Humans Transcend Biology. Penguin (NonClassics).

[Pinker 2008] Pinker, S. 2008. Tech luminaries address singularity. IEEE Spectrum.

[Turing 1963] Turing, A. 1963. Computing machinery and intelligence. In Computers and Thought. McGraw-Hill Book Company.

[Ulam 1958] Ulam, S. 1958. Tribute to John von Neumann. Bulletin of the American Mathematical Society 64(3).

[Vinge 1993] Vinge, V. 1993. The coming technological singularity: How to survive in the post-human era. In Rheingold, H., ed., Whole Earth Review.