几周之前，在美国刚刚推出的新书，作者是具有长年工作经验的AI学者兼作家凯特·克劳福德（Kate Crawford）女士。书名是《Atlas of AI--Power, Politics, and the Planetary Costs of Artificial Intelligence（人工智能地图集——人工智能的权力、政治和全球代价）》。

我是约两周前在著名的“WIRED（连线）”上看到简短评论之后，便上网搜索相关资料，下面几点是促使我写这篇评论的动力所在。

其一，该书瞄准的对象是热得烫手AI，而讨论的问题，不是那些带有虚幻色彩的伦理问题，而是实实在在的政治和权力问题、全球成本问题及其物理后效问题。因此，该书一推出就引起相当大的反应。

其二，用克劳福德自己的话来说，此书乃是分享她的一些最激动人心、最令人愤怒、最发人深省的观察。 而她的“深省和观察”具有的时间厚度已经长达15年之久。因此，不管读者赞同与否，都不能不严肃对待，认真思考。

其三，令人惊讶的是，这本书称为《AI地图集》，却并不像通常意义下的“图册”，表面上看依然是一本文字叙述的作品。为什么？要回应这个问题，涉及到对地图，对地理信息系统（GIS）等的深层次理解。

其四，她说，由于AI的影响很重大，“我们正慢慢地梦游般地走向重大的社会和政治变革，而这些国家却没有为我们安排好——甚至，在很多方面是故意隐藏起来了。”

于是，我便沉浸在这本书的阅读之中。

一、从聪明绝顶的马匹说起

十九世纪末，一匹名叫汉斯的马让整个欧洲为之着迷。

汉斯真的聪明绝顶: 他能解决简单的数学问题，会识别日历上的日期，会区分音乐音调，会拼写单词和句子，甚至会回答这样的复杂问题“我脑子里有一个数字。减去九之后，其余数为三，该数字是多少？”汉斯准确地回答这些问题的表现，令人惊叹不已，人们蜂拥而至。当然，汉斯回答的方式是用一只马蹄来完成，或者敲打地面，或者马蹄指向特定对象等。

于是有人认为，动物也会推理。但是许多人持怀疑态度。严肃的的德国人，组织了一个跨界的综合委员会来进行测试。结果发现，无论驯马师在场与否，这匹马都能正确回答问题，委员会一时找不到欺骗的证据。

但是该委员会后来发现，当驯马师不知道问题的答案时，或者站在距离汉斯远处提问时，汉斯回答就会出错。于是让人猜想，可能是驯马师采用特殊方式给汉斯传递信息，使马匹获得启示。驯马师与汉斯的特殊交流的方式，可以是一种眼神、一个特定的姿势，呼吸的状态或者面部表情等复杂的暗示方式，经过反复的训练后，使得汉斯具有较精准的反应。

基于此，克劳福德便沿着如下的思路，将聪明的汉斯引向聪明的机器，即AI。

首先，汉斯这个故事，是通过训练马匹来模仿人类的认知，从而构建起令人着迷的智力故事。汉斯与AI的共同点在于，都是人类与非人类共享人类认知的故事，差别只在非人类的类型不同。

其次，克劳福德认为“汉斯和冯·奥斯坦之间的关系告知人们，是偏见进入了系统的复杂机制，并于所研究的现象纠缠在一起。”于是，汉斯的故事便给AI机器学习发出了一个警示：“你不能总是从一个确定的模型中给出的数据进行学习，即使这是一个在训练中表现很出色的系统，可是一旦面对世界上新的数据时，照样会做出可怕的预测结果。”

面对这样的情况，汉斯也罢，机器也罢，这两者看似具有人类的智力，但实际上都不是。用作者的术语来说，只不过是“两种截然不同的神话在起作用”。

第一个神话认为，非人类系统(无论是计算机还是马) 都可以从零开始学习和创造智力，并跳过人类特定过程和关系所决定的基本方式。

第二个神话认为，智力是独立存在的东西，而且在AI中体现尤其明显。作者批评道：“自20世纪中叶以来，人类智能可以被机器形式化和复制的信念就已经成为公理。”

克劳福德在书中历数了从艾伦·图灵、翰·冯·诺依曼、马文·明斯基，一直到希尔伯特·西蒙和诺伯特·维纳等人的理念，并加以评论。在此基础上，借助于哲学教授休伯特·德雷福斯(Hubert Dreyfus)反驳的论述：“人类的智力和专业知识在很大程度上依赖于许多无意识和潜意识的过程，而计算机则要求所有的过程和数据都是明确的和形式化的。”换言之，明确的形式化怎能刻画潜意识和无意识！

自20世纪60年代以来，人工智能发生了很大变化，历史上关于人工智能能做什么的争论已经被人遗忘，怀疑也随之消失。然而，克劳福德强调指出，聪明的汉斯的故事依然在提醒我们，一定不能狭隘地考虑或认识智力。

那么，按照克劳福德的思路，应该怎样看待AI呢？她的思路很特别，她的第一步是从“否定意义上”去认识AI，这对于新生事物的把握是很重要的视角。例如在信息论刚刚出现时，就有智者提出，“信息不是质量，也不是能量，信息就是信息”。于是，从一开始就把信息与通常的物理量“划清了界限”。

在很多研究场合，关于对象的认知，了解它们“不是什么”甚至比“是什么”更加重要。

接下来，她克劳福德第二步是考虑AI像是什么？克劳福德的回应，同样令人惊奇。她说，“AI犹如地图集”，这正是该书的书名。这一结论让笔者感到兴奋。

二、AI既非人为，也非智能

什么是人工智能？如果你问街上的行人，最可能的回答也许就是指展览会上回答问题的那些“机器人”。而对于更了解的一些人来说，可能会提到大疆的无人飞机，顺丰的分流机器人，科大讯飞的语音机器翻译，腾讯的云服务、特斯拉的汽车等等。如果回答这是深度学习的专家，他们的回答可能会涉及更多的IT技术的术语。总言而之。这些技术从事的某些类型事情的效率业已达到令人惊叹的地步。

从上个世纪七十年代专家支持系统的“知识提炼”一直到当今的前沿技术，克劳福德概述性地指出，“定义人工智能的每一种方式都在发挥作用，但仅仅是作为去理解、衡量、重视和管理AI而设定的一个框架。”在其推进过程中，只是从不同视角考虑人工智能系统如何能够采取比人类更可靠、更理性、更有效的“最好的可能行动”。然而，整个进程却缺乏考虑这样的决策会给社会带来高风险的结果，也没有考虑这些特定方法的社会成本，及其会给我们居住的星球带来紧张状态的的深远影响。

因此，克劳福德认为人工智能既不是人工的，也不是智能的。相反，人工智能不仅是具体的，而且是物质的，是由自然资源、燃料、人力、基础设施、物流、历史和分类组成（的一个大系统）。

她还提及，由于人工智能系统离不开大数据，以及相应的密集训练，因此，人工智能也就离不开更广泛的政治和社会结构。在这个过程中，必然离不开资本的参与，从而会影响到AI服务带来的主导利益。对此，克劳福德下了这样的断语“从这个意义上说，人工智能是一种权力的登记。”

本书的一个鲜明特点是，“从最广泛的意义上探索了人工智能是如何产生的，以及塑造它的那些经济、政治、文化和历史力量。”于是，人们就可以说，“人工智能不是一个纯技术领域的概念。”从根本上说，它是技术和社会实践、制度和基础设施、政治和文化的综合体。

为了理解人工智能是如何从根本上政治化的，作者发出这样的呼吁：“我们需要超越神经网络和统计模式识别，而是问：什么被优化？为谁优化？谁来决定？然后我们可以追溯到选择答案的含义。”

在这样思考的追问下，克劳福德探访的足迹和视野相当广泛，几乎涵盖全球。她的这本“地图集”，不仅让人们从三藩市的发达历史，看到了美国湾区繁荣图景与历史上的开采金矿的悲惨历史的因果关系；而且由此加以延伸，还看到了促使IT技术蓬勃发展的锂矿开采，给全球带来的尖锐社会问题。

克劳福德将AI切入到社会视角的“杠杆”，很睿智，很巧妙，那就是 “地图集”。

三、AI恰如“地图集”

看来，克劳福德不仅具有学者的睿智，而且具有作家引人入胜的叙事方式。

她先讲聪明的马匹，后叙平凡的地图集。请注意，没错，就是“地图集”， “平凡”两字，是笔者我添加的。因为克劳福德对“地图集”的论述，以及溢美之词，让我这个“理科耄耋”为之一震。

克劳福德给“地图集”赋予了许多界定词语。当然，克劳福德所指的“地图集”，业已超越了“方位图”的平凡表象，主要是指大数据时代的地图集，即地理信息系统（GIS）。

笔者在约七、八年前，为了撰写我国GIS卓越的先行者陈述彭院士的卓越贡献，曾与陈先生的得力助手何建邦先生合作。在这一过程中，我们访问了陈先生的工作室，及内容相当丰富的“品图斋”。我们除了研读了陈先生的著作，还查阅了GIS世界前沿水准，并进行了深入的交流和讨论。由于具有了这些铺垫，更容易理解克劳福德采用《Atlas of AI》作为书名的良苦用心。

首先，是关于GIS的本质认识。由于数据几乎都带有“方位”特征，于是就可以按照地理空间的“异质性”来组成不同的“数据源”，并按照“层级”的方式存储为不同的“底图”。GIS的处理过程则将计算机技术和系统理论结合起来，进行有效地处理、转换、展示和应用。

因此可以说，GIS的本质就是数据时代的“地图集”。对此，克劳福德在书中有颇多溢美之词，体现了她的深刻观察。

她认为，“所有的科学地图集都旨在训练眼睛，将观察者的注意力集中在特定的细节和显著的特征上。”于是，读者在阅读该书的时候，就可以借助于眼力的获取能力，去释放自己的好奇心。也就是说，地图集向你展示了世界的特定观点，以及科学认可的理念——例如比例和比率、纬度和经度等——还有他给出的形式和谐一致性的感觉。在这些方面，AI与地图集颇为相似。

她认为，地图集既是一种科学收藏，更是一种创造性行为 ——一种主观的、政治的和审美的介入。…通过这两者的提示，科学和艺术就不再是永远分开的存在。”与此同时，科学与意识的紧密结合，地图集为我们提供了重读和反复欣赏的可能性。在这些方面，AI与地图集犹如殊途同归。

说到这里，让我们欣赏一下陈述彭院士早年手绘的一张北京附近的地图，它不仅鲜明地报展示了地貌特征，而且本身就是一件珍贵的艺术品。

克劳福德还认为，地图集“为我们提供了一个开放路径的总体思路——共享的认知方式——可以将相关对象进行混合和组合，从而形成新的互连。”对于基于地图集的新的互联方式，克劳福德强烈地建议人们“通过对地图集的理解，…需要新的方法来理解人工智能帝国。”

于是，克劳福德在书中，带我们踏上了一段全球之旅，从提取计算机制造中使用的稀土元素的矿山，到亚马逊的履约中心，让读者看到，在公司对增长和利润的不懈追求中，人体却被机械化了。

在第一章“土地（Earth）”中，她讲述了自己开着一辆货车从硅谷的中心来到内华达州克莱顿谷的一个小矿区。在那里，她调查了获取驱动世界计算机的锂元素所从事的那些破坏环境的实践。这有力地说明了，硅谷的繁华和现金以及荒废的矿区，这两个地方在物理空间上如此接近，然而，却在财富上相差甚远。

克劳福德将她的分析建立在这样的物质研究基础之上，拨开那些关于AI的委婉说法，即人工智能只是运行在“云中”的高效软件等等诸如此类。她对人工智能所基于的地球和劳动力的特写、生动描述，以及其背后问题尖锐的历史，使得我们不可能只是纯粹抽象地、空洞地谈论这项技术。

在第四章“分类（Classification）”中，克劳福德带我们进行了另一次旅行——这次是穿越时间而不是空间。为了解释这个领域对分类痴迷的历史，她参观了费城的宾夕法尼亚博物馆，在那里她凝视着一排排人类头骨。

这些头骨是由塞缪尔·莫顿收集的，他是19世纪的美国颅学家，他认为可以通过他们的身躯测量“客观地”将他们分为世界上的五个“种族”：非洲人、美洲土著人、高加索人、马来人和蒙古人。克劳福德将莫顿的工作与现代人工智能系统进行了比较，现代人工智能系统继续将世界分为固定的类别，而且会带来越来越大的差距。

她认为，这些分类远非客观，这是那些人强加给其他人的一种社会秩序、自然化等级制度、扩大不平等。透过这个镜头看，AI已经不能被认为是客观的或者中性的技术了。

于是，该书将AI背后的事实转换为社会的权力和政治。

四、提取、权力和政治

这是作者观点论述的主要落脚点。

制作地图集方法有很多，人工智能在世界上的应用也具有很多可能的未来。这些诱人的魅力，给AI带来的迅猛扩展似乎是当今世界不可避免的发展趋势。

但是，这在克劳福德看来，这个发展进程“是有争议的，同时也是很不完备的。”因为，人工智能领域的这些潜在愿景不会是“从天上点下来的”，而是“以一组特定的信念和视角构建而成的”。

克劳福德的观点带有鲜明的系统科学特征，她认为，“当代人工智能地图集的主要设计师是一小群具有“同质性”的人，他们居住在少数几个城市，从事着一个目前世界上最富裕的行业。” 而且，在他们制作的AI地图的过程中，具有明显的政治干预，这一过程不是中立的。对此，克劳福德还将此与中世纪的欧洲地图《世界地图》(mappae mundi)做了类比式的论述：（这本地图）既阐释了地图的坐标，也阐释了当时宗教权力和古典理念。

在上述分析的基础上，克劳福德在以结论性的方式做了如下陈述。

她说：“人工智能是一种想法、一种基础设施、一种产业、一种行使权力的形式和一种观察方式；这也是高度组织化的资本的一种表现，由庞大的开采和物流系统支持，其供应链环绕着整个地球。”

她说：“人工智能看起来像是一种光谱一样的力量——如同脱离实体的计算一样——但这些系统绝不是抽象的。它们正在重塑地球的物质基础设施，同时改变了人们对世界的看法和理解。”

她还说：鉴于AI具有“可塑性、混杂性，而且影响到空间和时间的尺度”。因此，鉴于“人工智能”这一术语的广度，我们必须不仅要考虑他所涉及的构成元素，而且还要考虑这些元素是如何深度叠加而发挥作用的。这一过程涉及到社会内容，包括了诸如: 从智能政治到大规模数据采集；从技术部门的工业集中化到地缘政治的军事力量；从造成退化的环境到持续推进的歧视形式等。

简而言之，人工智能现在是知识、交流和权力塑造的参与者。

在上述的挑战面前，作者呼吁“我们的任务就是保持对AI地图中地形变化的敏感性”。也就是说，鉴于AI带来的社会重构所发生的影响，就会让人们在认识论、正义原则、社会组织、政治表达、文化、对人体的理解、主体性和身份认同的各种层面上，需要认识清楚我们是什么，以及我们将会变成什么这些关键性问题。

因此，克劳福德重申，“我们正处于一个关键时刻，这要求我们就人工智能的产生和采用方式提出尖锐的问题。我们需要问：什么是AI？它宣传的是什么形式的政治？它为谁的利益服务？谁承担最大的伤害风险？而AI的使用应该在哪些方面加以约束？”

这些问题也不是第一次提出来，但是像这本书这样系统，这样尖锐，却是AI发展的火红浪潮中的另类发声。笔者看来，从根本上来说，这是在大数据AI时代，人文理念对技术理念提出的尖锐挑战。由于这一挑战，涉及到整个人类的走向，令世界社会岂能等闲视之！这是这本书刚一问世，就引来很大关注的主要原因。

克劳福德认为，书中提出的这些问题，并非容易解决。在人类的漫长演进过程中，每每处于大变化的动荡时期，总有智者发出冷静的警示，体现了确保人类自组织群体能够优化前行的重要“反馈”要素。

因此，笔者希望人们处在越来越快的技术进程中，稍微停下来一会儿，读一读这本书，思考一下书中的问题，这会有所裨益的！

如果等到，人类只能靠“一个借来的地方和借来的时间过活”（a borrowed place living on borrowed time）”才后悔，恐怕那就来不及了！啊哈！
 

作者颜基义，中国科学院大学教授  欧亚系统科学研究会会长

《人工智能地图集——人工智能的权力、政治和全球代价》英文版全书，请点击英文书名下载：《The Atlas of AI Power, Politics, and the Planetary Costs of Artificial Intelligence.pdf》