刘慈欣为李彦宏作序:人工智能是否隐含着最终失控的可能?

只有我们不知道机器在想什么、怎么想时,才会认为它智能。

这是一本论述人工智能的书,在这里首先讨论一个书中可能不涉及,但很基本的问题:人工智能的定义。

目前广为人知的定义是图灵测试,但这只能被看作一种泛泛的描述,并不是严格和精确的定义。比如,参与测试的人是什么样的人?向机器提出的问题是什么?这些问题都不明确。

上溯历史,我们发现人工智能的概念与自动化有着密切的关系,可以说自动化是这个概念的起源。在过去相当长的一段时间里,在人们的心目中,自动化就是人工智能。其实,人类制造和使用自动化装置的时间比我们想象得要早,远在电气时代之前,蒸汽机上就有自动调节蒸汽流量的装置,在更早的16世纪,伊丽莎白女王的宫廷里首次使用的抽水马桶也是自动化装置,如果向前追溯,肯定还有更早的例子。自动化大批量出现是在电气时代,先是由模拟电路实现自动化,后来电子管被晶体管所代替,再后来出现了集成电路,由日益复杂的软件所驱动。今天,我们在生活中要与无数的自动化系统打交道,比如电子商务系统、网上银行系统和网上购票系统等。

毋庸置疑,自动化系统表现出了相当多的智能特征,像网上银行这类系统处理着相当复杂的业务,其效率和精准度已高于人类雇员。即使是抽水马桶这样最简单的系统,也表现出一定的智能行为,它能够感知水箱的水位,适时开启和关闭给水阀门,这事它做得与人类一样好。但从抽水马桶到网上银行,我们都不把它们看作是人工智能。

笔者曾经编写过一个写现代诗的软件,现在还在网上流行;而目前网上其他比较完美的自动作诗软件,所写出的中国古典诗词很难与人类所作的诗词区分开来。另外,近年来已经有不止一个系统在不同的实验室环境下通过了图灵测试。但这一切,我们都不把它们看成心目中的人工智能,为什么?

笔者在20世纪80年代最早参与开发的工业监控系统是以Z80处理器为核心的,用汇编语言编程。这个系统能够监测上百个机组参数,并根据参数的变化做出适当的调节,其功能是人工无法实现的。但在我们的眼中它也完全不是人工智能。汇编语言的特点就是透明性,它要在硬件层次手把手地教机器做每一步操作,比如把数据从这个存储器送往那个存储器,中断的调用和返回等都一一写明,所以当我从外部看到系统的动作时,脑中立刻有一幅明晰的流程图,立刻能知道哪几条指令被执行了。所以在我看来,这个监控系统与抽水马桶没有本质的区别。

现在那些更复杂的系统,如网上银行和电子商务,这些软件的编制者一定清楚所有的内部操作流程,他们知道系统的每一步操作在软件中是如何进行的,这同样也是抽水马桶更复杂的版本。至于那些电子诗人和通过图灵测试的系统也一样,程序员清楚地知道它们是如何根据逻辑树检索数据库,然后组合出诗和答案的,所以至少程序员知道这不是智能。

当我们意识到房间中那些忙碌查找卡片的人时,智能的感觉就荡然无存了。

现在我们认为拥有人工智能的那些系统,比如,进化算法和深度学习等,都有一个共同特点:它们都或多或少地表现出了黑箱的特点,虽然从理论上它们内部的运算步骤仍然可以追踪,但由于计算量的巨大,使这种追踪实际上很困难甚至不可能。于是,我们真的感觉它们有智能了。

到这里,我们仍然无法得出人工智能的准确定义,但能够看到它的一个重要特点:一个具有智能特性的人造系统,它产生、输出的内部的运算过程是人类智能所无法解析的。换句话说,只有我们不知道机器在想什么、怎么想时,才认为它有智能。

看到这一点,每个人的心中应该都生出一股隐隐的寒意。是否人工智能的本质中,就隐含着它们最终失控的可能性?

这正是目前人们对人工智能关注的热点,用马斯克的话来说,人工智能正变成比核弹更危险的东西。媒体舆论给人一个印象,似乎机器的征途已经开始,人工智能征服世界指日可待。本书最后一章也显现了这种担忧。库兹维尔甚至在《奇点临近》中给出了人工智能纪元到来的具体年份:2045年。那时,现在读这本书的人有2/3还活着。

但理智地考察目前人工智能领域的状况,我们就能发现智力远超人类的“强人工智能”仍然属于科幻的范畴。公众喜欢从科幻的角度看问题,比起平常的现实,科幻确实能让人兴奋,任何从现实出发所进行的理智的预测都被斥为保守和没有想象力。但笔者作为科幻作家却只能说,与大家通常的印象不同,科幻小说中的预言真正变为现实的是少数,大部分预言要变为现实仍然遥遥无期。人们的潜意识中都认为,只要在理论上有可能突破的技术障碍,在未来就一定能够被突破,但事实并非如此。在人工智能方面,“强人工智能”的实现面对着许多巨大的技术障碍,如非冯•诺依曼体系的新结构计算机、对人类思维机制的深刻认识等,现在都无法确知最终能否取得突破。另外一些看似有希望的技术,如量子计算等,距实用还相去甚远。

所以,在对人工智能进行科学幻想的同时,我们更需要关注即将面对的“近未来”,这也正是本书重点讨论的话题。

人工智能近年来发展的趋势是开始走出实验室,进入人类生活,用一位互联网大佬的话来说,它们变得能用了。这样我们就面对着一个即将到来的挑战:人工智能不会夺走我们的自由和生命,但会夺走我们的饭碗,这不需要人工智能的失控,它们可以在资本家的完全控制下做成这件事。

有学者认为不必为这件事担忧,他们回顾工业化的历史,在20世纪初,美国有50%的农业人口,但随着农业机械化,现在的农业人口降到4%,而城市化吸收了多余的农民。但眼前发生的事情是不同的,当人工智能大规模进入社会后,人类能做的工作它们大部分都可以做,城市不会再有更多的就业岗位留给人类。通行的美好说法是,人们在常规工作中被人工智能取代后,可以去从事创造性的工作。问题是创造性的工作不是人人都可以从事的,也不需要那么多的人,如果社会分配制度不改变,一个全部由科学家和艺术家构成的人类世界几乎是一场噩梦,这上百亿科学家和艺术家中的绝大部分注定一生碌碌无为,对社会和自己都毫无用处,且沦入“创造性”的穷困潦倒中。

但这种思维方式总有些不对的地方。人类自古以来为生存而劳作,实在是迫不得已,工作着是美丽的,但谁都知道,不需要工作的生活更美丽。现在终于能够制造出把自己从工作重负中解放出来的机器,这是人类文明最伟大的成就,无论如何不应该被看作一场灾难,相反,这可能是人类所面对的前所未有的伟大机遇,只是,我们需要改变。

如何完成由现代社会向人工智能社会的过渡?有两种可能。

一种可能十分黑暗:在现有的社会、经济和政治体制下,人工智能带来的问题几乎是无解的。在人工智能迅速取代人类的过程中,没有及时建立起与之相适应的社会体制,在席卷全球的失业浪潮之下,世界的政治和经济将陷入长久的混乱之中,一切都笼罩在人工智能及其使用者与“新卢德派”领导的大众的无休止的冲突中。

另一种可能是,社会成功地完成转型。这将是有史以来人类生活方式最大的一次改变。不劳动者不得食,这个理念是人类社会的基石。文明诞生以来经历过多次巨大变革,这一基石从未改变,但人工智能可能会移除这一基石,进而导致从所有制和分配制度,到基本的经济结构,再到政治体制,直到文化,都发生根本的变化。这是真正的人类解放,是向着古老的乌托邦理想迈进的一大步。2016年是《乌托邦》发表500周年,但托马斯•莫尔无论如何不会想到,他的理想会借助于智能机器实现。我很有兴趣地想,如果卡尔•马克思知道人工智能这回事,他关于资本主义和共产主义的理论会是什么样子?

想象人工智能时代的社会和生活是困难的,即使在科幻小说中,我们也只能把种种可能性排列出来,而哪种可能性最有可能成为现实,取决于我们的努力和选择。但不管怎么说,那是一个诱人的时代,我们正向它走去。

(本文为科幻作家刘慈欣为李彦宏所著《智能革命》一书所写的序言,由中信出版集团独家授权界面新闻转载。)

书名:《智能革命》

作者:李彦宏

出版:中信出版集团

出版时间:2017年3月

广告等商务合作,请点击这里

本文为转载内容,授权事宜请联系原著作权人。

打开界面新闻APP,查看原文
界面新闻
打开界面新闻,查看更多专业报道

热门评论

打开APP,查看全部评论,抢神评席位

热门推荐

    下载界面APP 订阅更多品牌栏目
      界面新闻
      界面新闻
      只服务于独立思考的人群
      打开