专访孙梅岑（Meicen Sun）：人工智能的布局、治理与博弈

孙梅岑是美国伊利诺伊大学信息学院助理教授、麻省理工学院未来科技项目客座教授。她曾任世界经济论坛全球未来理事会会员，并于美国战略与国际研究研究中心及联合国和平与裁军非洲区域中心从事研究。其研究成果见刊于《国际组织》、《外交政策分析》、《哈佛商业评论》、世界经济论坛及亚洲开发银行研究所等。她还创作中英文小说、戏剧等，在中国、新加坡和美国执导多部原创作品。其近期于国际关系与国际政治经济学顶刊《国际组织》（International Organization）发表的论文《达摩克利斯之键》（“Damocles’s Switchboard”）首次以量化的方法阐明了信息政策与产业发展及科技创新之间的关系。本文是中美印象英文版(US-China Perception Monitor)执行主编翟乐南（Nick Zeller）对孙梅岑的采访。 

翟乐南（Nick Zeller）: 对于大多数人来说，人工智能只是一个用来作弊写论文或创作搞笑内容的工具。然而，世界各国政府却把它当作战略性的重要问题来对待——投入大量资源，并坚持制定人工智能治理计划的必要性。您认为各国以及国际社会为什么如此重视人工智能治理方面的规则？

孙梅岑（Meicen Sun）：简言之，就是人工智能庞大且莫测的双刃性：一方面，人工智能的有效应用在经济、军事等领域都能引发飞跃性的发展。另一方面，求高求快容易无视其中的风险——包括算法偏见、技术性失业等。目前，各国出台的治理法案很多不健全。人工智能所触发的焦虑而给希望监管的利益方提供了契机。

翟乐南（Nick Zeller）: 这也是我们的下一个问题：在多大程度上，您认为对人工智能在地缘政治领域的担忧是由市场因素驱动的？如果华盛顿和北京继续坚信人工智能具有战略重要性和无限潜力，许多公司将从中获利的话。

孙梅岑（Meicen Sun）：相较于谁将从人工智能的开发中获利，更值得思考的是谁将从人工智能的监管中获利。标准化专利、默认隐私设置等各类纷争无外乎是监管的具体表现，而人工智能自带的算法黑箱对于企图通过技术细节蒙蔽大众而达到俘获目的的科技公司来说可谓天助我也。与其滥用人工智能发横财惹众怒，不如打着人工智能安全的旗号名正言顺地从中渔利。科技公司利用其对相关技术的了解占领了监管方和公众的信息制高点，进而得以通过收买监管方驱逐竞争。此类先发优势往往具有叠加效应。因此，对任何将某些价值和取向嵌入人工智能治理框架的行为必须加以警惕，因为一旦嵌入便难以剔除。美国这边一些治理方案初衷虽好，但不得其法，许多业内专家也已公开指出其弊端，对当前一边倒挺监管的风向或能起到一定制衡。

翟乐南（Nick Zeller）: 您在为2019世界经济论坛达沃斯年会撰写的时评中指出了信息政策对世界各国的重大战略意义。是什么促使中国将人工智能上升至如此重要的战略层面？您认为中国在人工智能和数据治理方面的总体策略是什么？

孙梅岑（Meicen Sun）：解读中国人工智能战略的切入口是中国的数据战略，具体还要从十年前的“大数据”时代说起。包括十三五和《促进大数据发展行动纲要》等一系列政策文件首次将大数据定性为“基础性战略资源”。数据挖掘不像原油一类资源受制于自然条件，研发成本也较低。而对于资本和高技能劳动力都尚匮乏的中国来说，最重要的是数据与人口成正比，这就将巨大的低技能人口基数从负担转变为资产。而互联网普及率、相对宽松的隐私环境以及互联网管制等因素都进一步保证了数据更快更有效的积累。

数据对于任何一个大国都是重中之重，但在中国则被赋予了更为特殊的地位：大数据不仅仅是一个关键节点，更是具有近乎天意的历史性时刻。打赢数据仗的目的远不止提升综合国力，而是通过改写信息时代的交战规则确保在主场而非客场拿下更大的人工智能一仗。“弯道超车”的本质无非是借所谓“数据红利”掩护而避免在技术短板上与美国正面交锋。同理，“信息化为中华民族带来了千载难逢的机遇”这一提法直指的是数据在中国的特殊环境下可能起到的决定性作用而非关于现代化的泛泛而谈。

数据诚然重要，但迷信数据却会陷入“XX不够，数据来凑”的怪圈。就人工智能来说，XX非算力即算法。而广义来看，XX可以是从资本到人才到技术等任何驱动经济发展的要素。中国在数据上的下注激化了美国在硬件和人才上的封锁，继而促使中国在数据上进一步加码。

翟乐南（Nick Zeller）: 谈到数据，不能不提及您近期在国际关系与国际政治经济学顶刊发表的论文 《达摩克利斯之键》。您在文中指出，互联网政策已在国际贸易中以隐性关税的形式普遍存在。美方批评中国的数字贸易政策，认为这些政策偏袒中国数据密集型企业的同时抬高美国企业的市场准入门槛。能否解释一下这其中的机制？包括数据监管、数据本地化和出口管制在内的限制措施对本国和外国高度依赖数据的企业有何影响？特朗普新政府上台，您认为这个问题将如何发展？

孙梅岑（Meicen Sun）：信息能通过若干渠道影响经济增长，最直接的是通过信息流中的知识部分，即我在播客里谈到的互联网政策何以左右国家创新力，而对信息流中的数据部分则讨论较少。数据密集型企业的商业模式依赖于利用海量数据训练出来的算法，比如约车软件靠出行数据优化路径等。用户一旦无法登陆国外软件，就会更多地使用本土的替代性软件，这便是我文章中数据密集型企业从互联网政策中获利30-50%的机制。至于国家为什么不趁热打铁进一步扶持本土公司，原因在于这些公司同时坐拥资本和数据，而一旦参与上市一类的海外扩张，数据就成为了安全隐患。这也是近年来国家对此类公司加强监管的原因之一。

美国政府去年已经放缓了之前一贯推行的数字贸易自由化政策，下届政府亦不会有大变动。迫使放缓的主要压力来自于美国国内而非国际。信息政策的日益复杂意味着数字贸易不得不让位于包括人工智能在内更为紧迫的议题。

翟乐南（Nick Zeller）: 在您在论文中曾提到，国家在信息监管中会陷入一种两难境地，需要在社会稳定和经济发展之间取舍。能否用通俗的语言解释 “达摩克利斯之键” 这一概念？这一概念是如何影响中国制定人工智能治理框架的决策的？

孙梅岑（Meicen Sun）：不少人问：若信息政策对创新影响如此之大，何未有相应的调整？首先，政策是有所调整的。现今信息政策的双向精准度都有提升，错屏率和漏屏率都有所降低。但问题的根本还在于信息政策对创新的影响很难定夺。就专利、论文，甚至高影响力专利论文等常用的宏观指标看，中国在很多领域的确已经赶超了美国，这似乎跟我文中信息政策造成创新力22%边际性下降这一点相矛盾。

要理解为什么二者并不矛盾就要了解什么是“边际性“，即其它条件不变情况下信息政策对创新的影响。一个负重的赛跑选手，在改善了训练方式和装备之后与对手齐平，但显然不负重会跑得更快。这里的”重”即相当于信息政策。而训练方式和装备的改善相当于科研资金的投入等其它因素，也恰恰掩盖了负重本身的拖累。要准确测量负重对创新的阻力需要一些数据科学的技巧，这也是我论文的一个突破。一直以来的一个误区是只要政策有碍创新，那么政策必然会调整，但事实证明边际性下跌即便达到了22%也有可能被弥补性因素掩盖，故不影响创新指数的总体上升。

赛跑的比喻还可以用来审视中美人工智能的竞争。有观点认为美方的制裁反而推动了中国自主创新，好比负重训练一样加速了华为新一代手机的面世。但就技术上看，此类案例并不能与英伟达或者开放人工智能最优的硬件或算法相提并论。然而从另一个角度看，除却用统一指标衡量中美各自的最优模型，不妨探讨此类限制性政策是否对两国人工智能研发的方向性产生了影响，例如研究的内容、使用的方法等。假设答案是肯定的，问题也随之而来：倘若互联网管制、芯片制裁之类政策无意中促进了全球人工智能的多元性，那是否就应任其分化？科技政策着眼的多是政策导致的不良后果，而对相反的情况则考量甚少。

翟乐南（Nick Zeller）: 放宽视角，中国在人工智能领域的追赶策略是否可供其他发展中国家借鉴其经验？哪些方面具有参考价值？同时，考虑到不同国家的资源、政策环境和社会结构，中国的哪些做法可能不太适用于其他国家？

孙梅岑（Meicen Sun）：最具参考价值的是中国对人工智能的应用，包括在教育、医疗等领域的落地。对大多数国家而言，落地比自主研发更具实际意义。但正如之前所说，中国人工智能得益于海量数据和标注，因此若本国规模效应不足则不宜生搬硬套中国模式。与此同时，发达国家的人工智能公司依靠剥削发展中国家的劳动力为其进行模型标注，包括严重危害精神健康的内容，应当引起国际社会的高度重视。

翟乐南（Nick Zeller）: 中美在哪些人工智能，大数据驱动创新的领域竞争最为激烈？目前的情况怎样，双方各自拥有哪些比较优势？

孙梅岑（Meicen Sun）：基于上述中美竞争中最优模式和中国在数据方面的比较优势，需要强调的是“XX不够，数据来凑“这类策略前景堪忧。我所在的麻省理工学院未来科技项目的研究显示，在数据充足的情况下，资本会日趋重要。只要有足够资金支持，人工智能对科研的助力将不可估量。用柯布—道格拉斯生产函数来解释就是人工智除了通过“L”（劳动力）更能通过“A”（全要素生产率）激发经济增长。目前对人工智能的关注点还较局限在劳动力这块，比方自动化对就业和工资的冲击等。这些固然重要，但如果忽略了全要素生产率，即创新这个杠杆，则未免主次颠倒。

翟乐南（Nick Zeller）: 中美合作制定全球人工智能规范的可能性有多大？ 在什么情况下，这样的合作是可能发生的？或者有哪些奖励机制可以促成这样的合作？

孙梅岑（Meicen Sun）：世界秩序由几个大国政府协商制定的年代一去不复返。国家对数据和算法的管控与其对核武器之类资源的管控有着本质区别。粲然可观的经济利益外加技术的广泛分布使得把持着人工智能最前沿的业界将成为不可忽视的推力。各国政府必须直面自身在人工智能治理中辅助性而非核心性的角色。

人工智能的演进本身就是一次跨国资源的大整合，其莫大的潜力正源于其不确定性。这一点无论是对于传统风险评估还是对于信奉两极化和共同毁灭原则的传统外交来说都是颠覆性的。但较之无谓的恐慌，积极发掘人工智能所能给予人类的福祉是必要的。