量子物理学家波尔曾说：如果谁说能理解量子力学，那一定是脑袋进石头了！上世纪初，科学家知道利用量子原理，却很难感性理解量子现象，因为新现象与旧认知相距太大。
类似情况正发生在人工智能上。
人工智能是一场正改变人类生存环境的浪潮。可是，1）受影响的绝大多数人并没有机会参与决定被改变的内容、方向和程度。2）技术先进正按照自己的工程思维改写社会文化的基因。3）他们对手中强大技术的社会后果认识偏颇（行话为偏置明显），忽略AI的灭绝力量。4）他们对技术的信仰覆盖了个人对自己的生命意义的追求。全球智慧企业“年度50强”之一的“旷视”（Mega Vision）办公大厅里，有一幅价值愿景口号：“为了人工智能终将创造的所有美好！”。谁创造？谁被创造？怎样的美好？对坚持不美好的少数怎么办？这些比技术更重要的美学问题在讨论中严重缺席。
对于人工智能的难题，文学叙事不失为合适的理解工具。文学无需拘泥于事实、允许荒诞想象。它自由驰骋的思想力可以暴露人工智能“偏置” （算法中有偏见的设置）盲点。AI比任何时候都需要文学和美学的参与。
为何要拒绝AI创造的“完美渐显现象”
过去，未来是在各种力量随机碰撞中逐渐显现的事先不可知现象。人工智能改写历史错误和随机碰撞的结果，带来完美的过程。闭环回馈、反刍式学习系统可以不断修改历史经验，去除历史判断的“错误”。这样一来，人的“愚蠢性”只会在算法里出现一次，不会重复，因为历史经验可以在闭环回馈中修改。
可是，愚蠢也有它的价值。只有在AI消灭人的“愚蠢”之后，我们才倍加怀恋它的价值。陀思妥耶夫斯基和福楼拜的小说帮助我们看到愚蠢人性有价值的一面。
陀思妥耶夫斯基通过《地下室手记》的主人公表明对数学般完美生活的看法：2加2等于4，这样推演生活不是展示生命，先生们，是死亡的开始！
19世纪的欧洲，理性的个人主义和浪漫的乌托邦思想到处蔓延。陀思妥耶夫斯基的小说却着重描写个人非理性主义行为和残酷冷峻的生活。他的代表作《地下室手记》中的主人公“一无所有，没有大衣，没有靴子，寒酸透顶”，怎么看都是一位生活的失败者，一位社会和家庭的弃儿。小说开头就写到：我是一个有病的人，凶狠的人，不招人喜欢的人。可是就在他完全病态的性格行为中，就在那阴森冷漠的地下室空间，20世纪的一代又一代读者领会“我是谁？”“什么是意识？”“残酷现实有何意义？”
放置闭环回馈和反刍式学习系统中，地下室和它的主人会被消灭。失去小说描述的病态不完美，读者也会失去深刻理解人性的一扇窗。
另一部同时期法国小说《包法利夫人》中每个角色，爱玛、查理、老包法利、赫麦、罗多尔夫、莱昂，都带有某一种典型的人性恶习：懦弱、愚蠢、贪婪、冷漠……。作家福楼拜笔下的爱玛一次又一次地追求憧憬向往的爱情和家庭，一次又一次被欺骗，受折磨，直至死亡。小说里的人物极其现实，因为它取材于当时的一个真人真事：一个法国乡村医生夫人的服毒案。
福楼拜是第一个探讨人性愚蠢价值的作家。浸淫到《包法利夫人》描绘的现实情境中，你才能感性理解生命过程无常、残缺、不完美、每一次都不一样。读完他的小说，你就明白，在没有感知生命过程特征之前，就制造一个假设的完美程序，它是危险的。那些被修改掉的不完美性也许是未来的救命稻草。
在魔幻现实主义中理解“不可减约性”
今天的人工智能经历过60年和至少8个学科交错影响的发展过程。它不能从单学科角度去简单理解，也不能把它60年的发展历史抽取出来后分别理解。这就是它内置的“不可简约性”。
怎样理解“不可减约性”的荒诞与悖论？它需要文学来帮忙。
作为魔幻现实主义作家博尔赫斯（Jorge Luis Borges）的鼎力之作，《沙之书》（Book of Sand）把不确定性和不可减约性简练地呈现给读者。这本“我”从圣经推销员那儿买来的神奇的书由无穷无尽的页码组成，仿佛如恒河之沙。打开每一页，它都连带启动一系列相关的符号。每一页、每个符合表达着奇怪的东西，玄妙费解。博尔赫斯的另外一本小说《巴别图书馆》（Babel Library）把不可减约性的荒诞推向新高度。
《圣经·旧约》中，人类曾试图建造一座能够沟通和理解一切的通天巨塔，却被上帝挫败。小说《巴别图书馆》里的图书馆犹如通天塔，全然包含宇宙的智慧。图书馆的书架里包括23个书写符号组成的目录区域。可是，这个容纳所有智慧的图书馆却处处看似无序。任何人在特定区域抽出一本书，他只读到看似乱七八糟的符号。四处找了一百年还是无头绪后，人们以为这个全能的图书馆就是一大堆胡言乱语的纸张。其实，全能的图书馆是存在的。它是所有书籍的总和。人类的衰老、恐惧、欲求捷径的动机让人不得领悟全书。一旦领悟全书，前面所有的“乱七八糟”便刹那间显示各自的意义。
博尔赫斯的小说荒诞，“不可减约性”也荒诞。荒诞不是错误，而是我们的理解能力与现象变化有差距。以荒诞对荒诞，也许我们可以架起对人工智能发展中“不可减约”难题的理解。
要相信极端不确定性的存在
人工智能潜含对人类的灭绝力量，属于“无知的未知”（unknown unknowns）。与之伴生的极端不确定性可能带来人类的灭绝危机。牛津大学“人工智能研究中心”的博斯特伦（Nick Bostrom）指出，当我们看到极端不确定可能带来灭绝危机时，一切已经太晚，命运将无法改变。那些技术信仰者认为这是耸人听闻。他们相信一切皆可控制。只有读过《百年孤独》，人们才能体会那幻影般不可知的力量能扭曲制造光怪陆离的人生。待到能够体会时，改变已经不可能。
《百年孤独》(One Hundred Years of Solitude)是另一部拉丁美洲的魔幻现实主义作品。哥伦比亚作家加西亚·马尔克斯（Gabriel Garcia Marquez）描述了布恩迪亚家族百年七代的兴衰、荣辱、爱恨、福祸，和文化与人性中无法逃避的孤独。小说中的人物时而通鬼神，时而钟情于科学技术。每一代人各有奇诡的折腾方式，却总是以孤独命终。无论他们如何上天入地，通鬼拜神，这七代人还是被神秘的外部力量笼罩。孤独无意义注定是他们的宿命。
了解欧洲几个世纪以来对拉美社会的剥削蹂躏是理解《百年孤独》的钥匙。加西亚·马尔克斯曾经近乎绝望地表示：“拉丁美洲历史是一切巨大然而徒劳的奋斗总结，是一幕幕事先注定要被人遗忘的戏剧总和”。1518年，骑着高头大马的西班牙人科特斯（Heman Cortes）出现在墨西哥时，当地的阿兹台克土著人完全懵了。从军事技术到社会文化，欧洲对当地人是完全无知的新现象（unknown unknowns）。人数上有绝对优势的土著人首先被思想征服，然后遭受肉体的杀戮而无还手之力。在拉美的场景里，看到极端不确定性出现之时已经为终场的前戏。
人工智能会带来另一慕拉美剧情吗？我们宁可信其有，不可信其无！
“均质分布”的算法是生命不能承受之重
大数据工程师眼里没有个体，只有平均值和偏差。通俗地讲，“均质分布”指大数据分析总结出来的规律对整个人口有普遍适用性。由少数超级智慧的科学家开发出来的算法有凌驾于领域专业技能之上的统御能力（Master Algorithm）。精英提炼出的智慧程序应该可以代表全社会人的价值偏好。卡夫卡（Franz Kafka）的《变形记》，以及米兰.昆德拉（Milan Kundera）《生命不能承受之轻》以戏剧夸张手法凸显“均质分布”假设之荒诞。
在捷克作家卡夫卡的《变形记》中，主人公格里高尔.萨姆沙一觉醒来变成一只大甲虫。这位卑微勤勉的推销员曾经是家里的主要劳动力。工作收入为他挣来在家里的地位。每位成员重视他的物质贡献，对他毕恭毕敬。当他由人变为“非人”，当他无法做物质贡献时，家人的嘴脸全部改变了。萨姆沙头脑中还是人的思维，但形体已经为“非人”。被社会和家庭彻底边缘化的萨姆沙在痛苦和饥饿中默默死去。
是家庭成员思想变了形，还是主人公身体变了形？人与“非人”的区别是什么？谁为变形的后果负责？一旦人工智能变形为超级智慧，一旦人作为劳动者变形为“非劳动者”，我们将成为另一种卡夫卡现象。
另一位捷克作家昆德拉以《生命不能承受之轻》诘问每个人：一次不能重复的生命意义由谁来决定？ 小说中主要人物托马斯和特蕾莎以相左的人生观开始，用体现极致存在的死亡表达“轻”就是“重”，不能重复的生命要由自己来决定轻与重。
昆德拉的小说直接挑战尼采思想。尼采认为，生命不过为事件，事件“永恒轮回”，超人是事件主角，争取做超人，并让超人决定一切。小说主人公最后共同认识到，平凡的人，即便只有轻薄卑微的事件经历，仍然应该拥有对生命意义不可让渡的决定权。这也许是普通人对超级智慧应该有的态度。
微积分和二进制的发明者莱布尼茨（Gottfried Leibniz）曾断言：不能理性解释的就不存在。类似的思维偏置普遍存在于人工智能中。文学作品帮助我们认识到愚蠢是人性不可分割的一部分，理性知识永远不会完美，极端不确定性能带来无法逆转的生存危机，对精英开发的超级智慧平凡人也许承受不起。它们听似荒诞。荒诞，因为人工智能的理性解释能力尚低于感悟生命的水平之下。
（作者鲍勇剑为加拿大莱桥大学迪隆商学院终身教授，复旦大学管理学院EMBA特聘教授。）
