人工智能和生物技术遇道德困境 五大风险不容忽视

　　1951年，计算机之父阿兰·图灵(Alan Turing)提出：“如果机器能思考，那么它很可能比我们更加明智……这种新的危险……当然让我们焦虑。”

　　世界经济论坛创始人兼执行主席克劳斯·施瓦布(Klaus Schwab)在《第四次工业革命》一书中直言，“无论是规模、广度还是复杂程度，第四次工业革命都与人类过去经历的变革截然不同。”

　　“这些改变是深刻的，以至于人类在其发展历史上从未迎来如此美好的前景，也从未面临如此严峻的风险。”施瓦布说，“然而我担心的是，决策者们往往囿于传统的、非颠覆性的线性思维，或者过于关注眼前的危机，而难以对影响未来的各种颠覆和创新力量进行战略性思考。”

　　2017年6月27日至29日，世界经济论坛第11届新领军者年会的主题为“在第四次工业革命中实现包容性增长”。有哪些新技术正在改变人们的生活？我们面临着怎样的风险和挑战？

　　新技术成“焦点风险”

　　第四次工业革命中所诞生的新技术将不可避免地从多方面改变世界。

　　关于新兴技术的争论往往会出现两极分化：有些人刻意只关注潜在的收益，而另一些人则过分关注潜在的危险。真正的挑战是在这两个极端之间找到平衡。

　　世界经济论坛大中华区首席代表艾德维(David Aikman)告诉《中国经济周刊》说，一方面我们正面对着第四次工业革命带来的科技方面数不清的机遇与风险。另一方面我们正在寻求新的发展模式和经济机遇。

　　“我们要做的并不是阻止技术的进步，担忧技术进步风险带来的后果，而是探寻新技术如何带来新的就业机会，释放创业潜能，为社会带来更多福祉。”艾德维说，“第四次工业革命的新技术可以给我们更长的寿命，更可持续发展的地球，但我们必须引导这些技术的发展方向，通过共同的理念创造更多的共同利益和包容性增长。”

　　在即将出版的《第四次工业革命手册》中，全球风险认知调查归纳了12项新兴技术作为第四次工业革命的代表，包括：3D打印，新型材料和纳米材料，人工智能和机器人，生物技术，能源采集，存储和输送，区块链和分布式分类账，地质工程，物联网，神经技术，新计算技术，空间技术，虚拟和增强现实。

　　多年来，世界经济论坛发布的《全球风险报告》反复强调技术风险的重要性。在2015年的报告中，新兴技术成为报告的“焦点风险”之一，凸显了人工智能(AI)和生物技术等领域中存在的道德困境。

　　在2017年的全球风险认知调查中，包含一个有关12种新兴技术优势与负面后果的调查研究。结果表明，大部分受访者对于技术风险和利益的平衡普遍持乐观态度。但受访者仍在新兴技术的监管方面明确指出所需有限关注的领域为人工智能和机器人与生物技术。

　　AI技术武器化的风险

　　“第四次工业革命将为经济、社会和个人发展创造新的机遇，从而向个人和社区赋权，但同时也会导致某些群体的边缘化，加剧不平等，催生新的安全风险，以及破坏人们的社会关系。”施瓦布说。

　　《2017年全球风险报告》认为，理想情况下，监管制度应该足够稳定、可预测、透明，以便在投资者、企业与科学家之间建立信心，并应在公众中产生足够的信任和认知，从而让用户意识到评估早期负面后果的重要意义。

　　例如，自动驾驶技术会不可避免地导致一些事故，而是否会引起公众呼吁禁止该技术的发展则取决于人们是否信任已经为监管其发展而制定的机制。

　　从目前看，投资者对新兴技术抱着比较乐观的态度。

　　资料显示，全球专供AI应用的创业公司在2015年收到了24亿美元的风险投资基金，在2016年上半年收到了超过15亿美元的风险投资基金。政府项目和现有科技公司又在此基础上追加了数十亿美元的投资。

　　除了近期阿尔法狗(AlphaGo)再次战胜人类棋手之外，机器的学习技术已经能通过大数据分析来揭示有价值的信息，并且通过处理人类能力所无法企及的问题来为企业创造价值。

　　再比如斯坦福大学的计算病理学家分析了数百张肿瘤图像上的数千个细胞特征，发现了被忽视的乳腺癌标志物。AI应用正在以惊人的速度和创造力来降低成本并改进诊断。

　　但是正如许多好莱坞电影中已经表现出的“不受控”的人工智能所带来的毁灭性灾难一样，在任何复杂混乱的系统中，潜在危险包括管理不善、设计漏洞、意外和不可预见事件。这一切给确保个人、政府和企业的安全和安保带来了重大挑战。这其中最为人诟病的就是AI应用和武器战争的影响。

　　在日内瓦安全政策中心的Jean marc rickli看来，对于导致AI手机死机或应用程序错误或许可以容忍，但如果AI武器系统或自主导航系统的一行代码中存在错误，结果就可能是致命的。

　　Jean marc rickli认为，军方是从早期阶段就看到AI巨大潜力的部门之一。AI武器化将改变标准的战争方式，对国际安全与稳定有着深远影响，对于自助式武器系统的大量投资始于几年之前；2016年7月，美国五角大楼国防科学委员会发布了第一份有关武器自主性的研究，但就如何规范这些武器的发展，目前尚无共识。

　　国际社会在2014年的《联合国常规武器公约》框架内开始讨论致命自主式武器系统的新兴技术。但迄今为止，各国尚未就未来发展方向达成一致意见。那些呼吁禁止AI武器化的人担忧人类会被排挤到操作环节之外，将使用致命武力的决策留给机器，造成我们目前尚不可知的后果。

　　Jean marc rickli也列举了AI非军事应用方面的经验教训。以阿尔法狗为例，它已经击败了全球排名前列的人类棋手。它的某些棋步让观察者困惑不已，因为这完全不符合人类通常的下棋模式。负责研发阿尔法狗的谷歌DeepMind CEO Demis Hassabis针对这种差异的解释是，“不同于人类，阿尔法狗的程序旨在最大限度提高获胜几率，而不是将优势最大化。”如果这种二元逻辑(仅注重获胜，而非获胜优势)纳入自主式武器系统中，就会违反比例原则，因为系统算法不会认为以杀死1个对手为代价的胜利和杀死1000个对手为代价的胜利之间有什么差异。

　　当年计算机之父阿兰·图灵(Alan Turing)提出的解决方案包括，在关键时刻关闭电源——以此作为一种可能的办法，但未来的超级智能机器可能已采取措施防止外力切断电源。

　　在打开这样的“潘多拉魔盒”之前，制定有效的监管机制显得尤为重要。

　　

　　如何监管新技术？

　　如何监管新兴技术是一个复杂的问题。过度地严格限制技术发展可能会延误乃至妨碍潜在利益的取得。但是，长期不明确的监管方式则会导致技术被不负责任地滥用。同样投资者也不愿意支持那些他们担心以后可能会遭到禁止或排斥的技术发展。

　　《2017年全球风险报告》中指出，新兴技术的监管参差不齐，有些监管严格，而另一些技术不在任何现有监管机构的职权范围内，因为几乎毫无监管可言。历史表明，新技术的最终收益和风险可能与最初的专家意见南辕北辙。

　　如前所述，在世界经济论坛的调查中，当被问及12项新兴技术哪项最需要监管时，人工智能和机器人以及生物技术被最多的受访者提及(超过40%)。

　　但事实上这两项技术的监管现状有着很大的差别。

　　由于涉及到生物体的改造(应用于医药、农业或工业领域)，生物技术往往受到严格监管。早在1992年联合国出台的《生物多样性公约》就已将生物技术作为一项全球性的问题监管，而现今已有196个国家批准了这项公约。相反，在全球绝大多数国家和地区，AI和机器人的监管力度不严，用经济史学家的话来说，AI作为“通用技术”在许多领域中均有应用，而这些领域各有不同的监管制度。

　　世界经济论坛大中华区首席代表艾德维接受《中国经济周刊》记者采访时认为，第四次工业革命带来的新技术正在改变我们工作、生活和交流的方式，没有哪个国家、哪个行业能免受影响。

　　“以人工智能为例，我们并不知道对这个技术领域应该有更多监管还是更少监管，该如何监管？这是许多这样的技术所面临的挑战，因为它们不仅仅是新生事物，而且还在快速地演变，这让传统监管模式很难及时跟进。”艾德维说，“在人工智能方面，我们希望通过各方讨论提出相关监管原则，然后各国在这个共识基础上，制定自己的细则。”

　　正如《2017全球风险报告》结论中所述，要确保人工智能不会超出人类为之设定的界线，我们必须继续努力建立对此类系统的信任，因为它们将改变我们的社会、政治、商业环境，为我们制定决策，并成为我们阐释周边世界不可或缺的能力。

　　《2017年全球风险报告》发布：

　　五大风险预判 水资源危机被反复提及

　　施瓦布在《2017年全球风险报告》的序言中写道，“对于全球社会而言，2017年将是关键的一年。”

　　10余年来，世界经济论坛发布的《全球风险报告》都在致力于全球风险的演变和这些风险之间深度内在关联的研究，例如，收入不平等、不断加剧的两极分化造成的风险恶化可能性，又或是经济复苏疲软和技术变革速度相关的风险。

　　

　　

　　世界经济五大风险

　　《2017年全球风险报告》从多个维度例举了全球面临的五大风险，比如按发生概率排列的五大风险、按影响力排列的五大全球风险等。除此之外，《2017年全球风险报告》还从总体上列举了危及2017年世界经济的五大风险：

　　第一，不断凸显的收入不平等。上世纪80年代以来，在英国、美国、加拿大、爱尔兰和澳大利亚等国内，占人口1%的富人所拥有的财富在全国的份额不断上升。这群人并未受到金融危机后萧条的影响。对新技术的投资使技术工人受益，而非技术工人仍然受穷。全球化使得世界上落后国家的工人受益，而西方国家的工人在其国内依然贫困，以至于“支持不满情绪的竞选将获胜”正在成为一个定理。

　　第二，气候变化。它被认为是今年第二个最大的风险主要源于越发频繁的极端气候变化。尽管全球周期性厄尔尼诺现象已经过去，2017年不太可能超过2016年成为历史上最热的一年，但气候当局仍然预测今年全球范围内也会是最热的几年之一。该报告指出，今年各国政府必须切实兑现他们关于《巴黎协定》的减排承诺，其实《巴黎协定》所确定的减排速度根本不足以避免危险的全球变暖。

　　第三，社会越趋多极化。民主面临危机，尤其是政客、公共和私人机构的当权者越发与他们的选民在文化背景、收入和福利方面拉开了距离。政府的节俭政策实际上降低了弱势群体的福利水平，多文化主义正受到民族主义的挑战。

　　第四，网络依赖性上升。越来越多的关键基础设施依赖开放性的网络空间，发达国家相当大的一部分经济活动依赖开放性网络，比如英国大约10%的GDP来自网络经济。这固然给人们生活和经济发展带来很多好处，却也给某些打算对社会造成破坏的组织和个人提供机会。

　　第五，老龄化问题。日本有四分之一人口超过65岁，其他发达国家以及相当一部分发展中国家也正朝着这方向发展。日本自2000年以来为维持一个护理保险福利计划所做的开支使其债务对GDP的比重达到了240%。中国在经济发展过程中老龄化问题逐渐呈现，需要提前采取措施解决健康护理问题。

　　按影响力排列的五大全球风险中，水资源危机位于前列

　　在世界经济论坛10年的风险研究中，2007—2017年，按影响力排列的五大全球风险，从2007年到2014年的首位都和金融相关，比如资产价格崩溃、财政危机和重大系统性金融崩盘，但从2012年水供应危机成为第二大风险后，从2013年到2017年，水资源危机都排在影响全球五大风险的前三位，这其中的趋势反映了什么问题？

　　世界经济论坛大中华区首席代表艾德维(David Aikman)在接受《中国经济周刊》记者采访时分析，在2012年前那段时间，世界主要关注点确实在金融系统方面，毕竟那时候世界经历了过去75年间最严重的金融危机，在人们的印象里，这方面的危机在影响程度上被认为是最严重的。但气候变化因素一直在人们视线中，并不是忽然出现的，其重要性逐步上升。

　　“实际上，从可能性和影响程度看，气候变化相关的风险严重程度是我们近10年报告所未见的。”艾德维说，“我们担心的是，这些环境风险造成的后果，可能不仅仅是经济上的，还可能引发冲突和严重的社会动乱。因此尽管这样的影响可能会是今后遥远的事，但是各国共同加紧面对还是很重要的。世界经济论坛要做的，就是在我们所有的利益攸关方之间汇聚支持力量，促进交流，加强合作，力争形成积极的影响。”

　

世界经济论坛大中华区首席代表艾德维《中国经济周刊》首席摄影记者 肖翊I 摄

　　专访世界经济论坛大中华区首席代表艾德维：

　　我们希望中国在未来世界中扮演更重要角色

　　《中国经济周刊》 记者 张璐晶 |北京报道

　　自2007年进入中国，世界经济论坛新领军者年会已经走到了第11个年头。

　　从2015年8月被任命为大中华区首席代表以来，艾德维(David Aikman)在中国时刻感受着这个国家的创新和变革，从使用方便的移动支付到骑着共享单车去上班,再到看着越来越多的中国企业参与到世界经济论坛的活动中来。

　　“在北京这样充满活力、日新月异的城市生活太棒了。”艾德维说。

　　6月27日至29日，在大连举办的第11届新领军者年会有什么看点？艾德维如何评价自己在中国的工作？

　　我不认同只有发展中国家才能从“一带一路”倡议中受益的假设

　　《中国经济周刊》：今年是您作为大中华区首席代表的第二年，如何评价自己过去一年的工作？最有成就感的是什么？

　　艾德维：过去一年，我很高兴看到有更多的中国企业参与到世界经济论坛的活动中，中国的领导层也更多地在国际场合展开交流，我们希望中国在未来世界中扮演更加重要的角色。

　　最有成就感的是习主席出席冬季达沃斯会议，这是中国国家元首首次出席论坛，是对我们工作业绩以及可以为中国发挥作用的巨大肯定，我特别荣幸能在会场中亲耳聆听习主席的演讲，我对能置身于这样的历史进程特别有成就感。

　　世界经济论坛作为一个平台，不仅可以更好地帮助中国了解世界，也可以帮助中国向世界传播它的思想，推广它的商业理念。

　　《中国经济周刊》：在习主席出席世界经济论坛2017年年会数月之后， “一带一路”国际合作高峰论坛在北京召开，您怎么看中国提出的“一带一路”倡议，以及在国际合作中，中国所扮演的角色？

　　艾德维：在今年的冬季达沃斯上，习主席提到中国将扩大同国际伙伴的合作，特别是在贸易、发展、气候变化等重大领域。这和随后中国举办的“一带一路”国际合作高峰论坛一样都传递了明确的信息，就是中国希望在国际体系中通过共同的理念，扮演更加中心、更加重要的角色。

　　习主席谈到了命运共同体，这样的共同理念可以带来更好的包容性发展。我们看到中国批准了巴黎协议，也力求通过“一带一路”为国际社会创造更多的包容性发展。中国企业的视野更加国际化，很多企业成为创新和生产力的驱动器，通过更多地参与国际合作，这些企业可以带来更快的经济增长，也为国内外提供更多的就业机会。

　　我认为，“一带一路”倡议为加强地区合作提供了全新的交流合作模式，这不是以前的自贸区或贸易协定，而是提供了非常具有前瞻性的合作平台，通过共商共建，群策群力，共同推进合作朝着积极的方向发展。

　　中国看到了不同国家的不同发展阶段和不同发展路径，通过合作达到共赢的目的。我不认同只有发展中国家才能从中受益的假设，我认为，大家都可以从中获取经济利益。

　　世界面临的风险加剧：逆全球化、贫富差距扩大、人口老龄化

　　《中国经济周刊》：在过去的一年，也出现了许多逆全球化而动的局面，比如，英国脱欧、特朗普宣布退出巴黎协定等，都给世界经济发展带来了不确定性，您如何看待这种风险？

　　艾德维：今年以来，不少国家的选举都产生了更加中间道路的政府，如荷兰、法国，加上之前的英国脱欧和美国的现状，让我们看到世界局势走向似乎存在这样一种趋势(逆全球化)。我们认为，世界体系仍有不少系统性风险，我们需要加强世界体系建设，加强国际合作来抵御这些风险，通过科技创新、新的商业模式来重振国际经济。

　　我们也需要改良市场资本主义，因为全球化并没有平均地给每个国家带来预期的好处。与此同时，我们还面临着第四次工业革命带来的颠覆性变化。很多根本性的系统性风险依然存在，而各国政界正在做出各自相应的反应。

　　中国是一个好例子。例如，清洁能源、可再生能源在中国通过技术创新以及精心设计的政策，获得了很好的发展机遇，中国正在成为这一领域的全球领导者。

　　《中国经济周刊》：《2017年全球风险报告》揭示贫富差距进一步扩大和收入不均是最明显的风险之一，实际上从2012年首次提到收入不均以来，2013年、2014年，收入不均都位列全球五大风险之首，您怎么看待收入不均持续扩大的问题？

　　艾德维：收入不均问题并不是什么新问题，施瓦布教授早在上世纪90年代晚期开始就对全球化带来的负面影响提出了警告，所以这个问题出现在我们的结论中并不令人吃惊。我们正致力于找到减轻这个全球化负面后果的途径，聚焦于创造更公平更具包容性的新增长。这需要相关国家努力减少一些系统性问题，如腐败、机构效率低下等，这些问题影响经济增长和财富的平均分配。今年我们选择这个主题，希望引起对包容性增长模式的更多共鸣。

　　《中国经济周刊》：在解决收入不均的问题上，有没有特别有效的方法？在发达国家和发展中国家分别有哪些解决途径？中国表现如何？

　　艾德维：在这个问题上，并没有特别好的唯一标准，不同收入水平的国家有各自的解决途径，关键不在于国家财富的多少，而在于分配政策。中国和其他中等收入国家相比，有做得很好的地方，也有需要改进的地方。根据我们的研究，一方面，中国在鼓励小企业创业创新方面做了很多努力，但另一方面，在税收政策、社会保障建设等方面，或许还有改进的空间。

　　《中国经济周刊》：人口老龄化是发达国家和发展中国家都要面临的问题，如何看待由此而来的社会变革？

　　艾德维：未来的35年，世界将增加大约20亿人口，与此同时，将有13亿人进入老龄，这给很多国家带来了重大的人口结构挑战。世界经济论坛近期发布了关于全球养老金危机的报告，考察各国养老金计划的负担情况。报告预测，中国今后每年养老金赤字将以7%的速度增长，从11万亿美元增长到2050年的119万亿美元，这将给中国和其他经济体带来巨大挑战。

　　与此同时，我们也考察了“银发劳动力”的劳动技能贡献，发现在很多国家这是没有被很好利用的资源。在中国，老年劳动力对社会的贡献远远未被开发，通过适当的培训和很好的企业文化，很多老年劳动力还可以为中国经济社会继续做出贡献。中国可以多进行超前思维，发展健康行业、养老行业等，不仅刺激经济发展，也可以减轻个人养老压力。

　　《中国经济周刊》：在很多国家都面临着生育率下降的问题，您怎么看？

　　艾德维：确实，在绝大多数发达国家，生育率都在下降。研究日本这样面临严重老龄化的国家，可以预测人口结构问题将如何带来经济上的不平衡发展，再思考开发哪些新技术、新行业可以带来新的商业机遇。