2020北京智源大会AI治理分论坛｜旷视对话世界大咖：全球协作共建可持续发展的AI

　　2020年6月22日，2020北京智源大会正在云端热烈展开，其中一场关于《人工智能伦理、治理与可持续发展》的专题讨论备受关注。该论坛由北京智源人工智能研究院联合旷视人工智能治理研究院、中科院自动化研究所共同召开，将新一代人工智能健康发展，实现发展与治理双轮驱动作为会议目标，以人工智能作为加速器促进全球可持续发展、确保人工智能始终向对人类和生态有益的方向发展作为论坛的讨论方向，。

　　本次论坛由智源研究院伦理与安全中心主任曾毅主持，北京市科学技术委员会主任许强，联合国副秘书长 Fabrizio Hochschild，联合国副秘书长技术顾问 Danit Gal，北京大学光华管理学院院长刘俏，慕尼黑工业大学AI伦理中心主任、全球AI伦理协会发起者 Christoph Lütge，剑桥大学未来智能研究中心研究主任 Seán ÓhÉigeartaigh等人发表演讲并参与讨论。旷视首席运营官、AI治理研究院院长徐云程出席论坛并与全球学者进行了深入对话。

　　为什么要将“可持续发展的AI”定立为AI产业接下来的发展目标？北京市科学技术委员会主任许强表示，联合国可持续发展目标”(Sustainable Development Goals,简称SDG)旨在从2015年到2030年间以综合方式彻底解决社会、经济和环境三个维度的发展问题。人工智能是能够变社会的颠覆性技术，也是能够推动社会进步的使能技术。应当通过新一代人工智能的发展促进全球可持续发展目标的实现，这既是写入国家《新一代人工智能发展规划》的战略目标，也是国家《新一代人工智能治理原则》的明确愿景，更是近期联合国秘书长公布的《数字合作路线图》中的核心议题之一。

图示：联合国可持续发展目标”(Sustainable Development Goals,简称SDG)

　　同时，人工智能技术因其广泛性和深刻性，正在成为未来世界发展的重要动能，并将塑造未来世界形态。与会嘉宾均认为，人工智能产业的健康发展是全球人工智能产学研各界的共同目标。联合国副秘书长Fabrizio Hochschild 在会上表示，“更加具有包容性的技术能够更快更深层地与社会融合，推动社会的发展”。

　　作为本次论坛的联合发起方和AI企业代表之一，旷视自创立以来就秉持着“用人工智能造福大众”的使命，以构建“可持续发展的AI”为目标，探索用人工智能技术在各行业的应用，为人们的生活带来安全、便捷、美好的体验。同时，旷视肩负着促进人工智能产业健康发展的责任，从自身做起，将AI治理在企业内切实推进，并以开放的心态与社会各界进行联合研究。

　　助力可持续发展，关注城市家园

　　作为此次论坛的重要成果之一，北京智源人工智能研究院在智源大会上宣布，成立面向可持续发展的人工智能智库(AI4SDGs Think Tank)，并发布面向可持续发展的人工智能公益研究计划(AI4SDGs Research Program)，旨在通过新一代人工智能助力中国社会、经济和环境的可持续发展，推进全球可持续发展目标的全面实现。

　　旷视、滴滴和小米成为首批支持面向可持续发展的人工智能公益研究计划的AI企业。首批课题将于2020年7月28日正式开放申请。

　　旷视人工智能治理研究院在本次论坛上公布了将要在公益研究计划平台上发布的课题研究方向——《人工智能治理与可持续的城市和社区》，以AI产品在城市和社区应用中的痛点问题为研究导向，助力联合国可持续发展目标(SDG)中第11项目标“可持续的城市和人类住区”的发展。

　　为什么是“城市”？

　　旷视首席运营官、AI治理研究院院长徐云程认为，“城市作为现代人类生活重要的聚集地，既是社会、经济、文化、科学发展的枢纽，也是各种矛盾、社会问题孕育的温床。城市是旷视开展人工智能商业化应用研究和实践的重要场景。我们十分关心城市居民的生活体验，正在致力于通过人工智能技术来解决城市面临的各种问题，比如交通、城市规划与管理、楼宇园区等等。我们希望科技能够帮助人们更好地建设城市、建设我们共同的家园。”

　　城市，也是人类社会与人工智能技术激烈的碰撞点。人工智能既为城市居民解决了一些城市问题，也同时带来了隐私保护、数据安全、工作被替代等一系列新的问题。比如北京大学光华管理学院院长刘俏就很关注劳动力就业的变化问题，他认为AI应当在消灭旧有就业机会的同时，应当创造更多的新就业机会，并使人类更加便捷、舒适的就业。

　　面对如此复杂的城市系统，旷视选择先从两个具体的研究课题入手，在公益研究计划平台上线后，期待与感兴趣的专业研究机构共同携手，共同开展深入的原创研究：

　　1.AI治理+社区方向：关注儿童友好型智慧社区的建设。厘清儿童特殊保护和一般性的AI治理原则之间的关系，并形成一套涵盖多方利益相关者的高效治理方案建议。

　　2.AI 治理+可信任AI方向：聚焦计算机视觉+推荐算法。关注算法权力对人们的隐私、安全、尊严和社会公正产生的影响。对主要应用场景、关键技术进行梳理，并结合企业的自治与行业的监管，给出风险评估与治理的建议方案。

　　旷视徐云程表示，“旷视AI治理研究院在研究中历来追求原创。我们希望通过此项公益平台计划，与有实力的研究机构一起，从底层的信息收集、数据分析做起，真正做出能够指导实践的研究，让成果早日得以应用，让城市成为人们美好的栖息家园。”

图示：旷视首席运营官、AI治理研究院院长徐云程在进行发言

　　规范塑造AI未来，构建可持续发展的AI

　　发展可持续的AI，核心任务就是确保人工智能始终向对人类和生态有益的方向发展，这需要由学界、政府、监管机构、企业、法律界等各个方面共同参与，如有任何一环缺位，AI治理都不能很好的推进。

　　联合国秘书长数字合作高级别小组前执行主任Amandeep S Gill 表示，无论是东方还是西方，“公众对于数据安全、所有权、隐私和知情权的担忧”，使民众渴望对新兴的AI产业进行监督。

　　同时，慕尼黑工业大学AI伦理中心主任，全球AI伦理协会发起者 Christoph Lütge 认为，需要外界监督保持一定的决策权，“在我们为自己保留的决策权和我们委托给人工智能的决策权之间取得平衡。”

　　所有AI治理相关的研究、建议、监管规定，都需要AI企业的落地参与，才能得到切实的推进。企业的AI治理，不仅要靠社会各方的监督，更要靠企业本身的自律。尽管现在并没有成熟的企业AI治理模式可循，但是探索本身就很有意义。正如旷视徐云程表示：“AI企业担负着推动AI产业可持续发展的重任。虽然AI治理是一件“摸着石头过河”的事业，但我们正在秉持一贯的长期主义精神，用大胆向前，小心求证的方式探索企业AI治理的道路。”

　　“原创”，成为了旷视AI治理行动的一个重要关键词，不仅体现在研究上，还体现在机制建设上。旷视的AI治理实践始于2019年7月对外发布了《人工智能应用准则》，为企业的AI治理指明了行动方向。随后旷视成立了“人工智能道德委员会”、向董事会汇报，开启了企业AI治理的机制建设。2020年1月，旷视成立了“AI治理研究院”，向社会发布2019年《全球十大AI治理事件》，与社会各界探讨AI治理的方向与界限，并开始与各界机构探讨联合研究课题。日前，旷视完成了与北大光华案例中心的合作，以旷视的案例为样本，进行企业AI治理的有益探索。

　　企业的AI治理，行胜于言。旷视的实践也让参会的专家们多了一个从企业研究的视角。

　　倡导东西方协作创新，AI产业应由世界共建

　　在“可持续发展的AI”这个宏大命题下，东西方交流、全球协作创新在今天显得愈发重要。

图示：与会部分嘉宾在进行讨论

　　受制于东西方历史上的制度不同、文化不同，在AI治理这个领域里，东西方仍然没有做到很好的融合。联合国副秘书长技术顾问 Danit Gal 对此十分担忧，对于AI的接受度和适应度的不同将导致各国的AI发展走向“不同的发展和使用轨迹”。

　　剑桥大学未来智能研究中心研究主任 Seán ÓhÉigeartaigh 从另一个侧面印证了这种担心。他曾经多次与中国各界进行交流，作为东西方沟通的枢纽，他经常会看到因为语言表述、翻译的不同，造成不同国家的人对语义的理解大相径庭，由此造成不必要的误解，“我看到，东西方这种误解正在加深双方之间的鸿沟”。

　　与会专家同时看到，如果没有充分的交流和沟通，随着误解的加深，各国会将AI发展成技术竞赛，并将其货币化和政治化，最终导致人类无法有效解决分歧。因此，联合国副秘书长技术顾问 Danit Gal倡议，应当在全球范围内创建非竞争领域的合作奖励机制，并鼓励全球各国共同参与国际协作、进行协同创新。

　　旷视徐云程对此表示十分赞同，她认为东西方各国之间应当多有一些透明的信任对话，“虽然东西方文化有差异，但我不认为在人工智能发展的目标上，东西方有什么区别。无论是东方还是西方，构建‘可持续发展的AI’终极目的都是为了人类社会的美好明天。”

　　联合国设定的可持续发展目标就在那里，旷视愿意与世界一道，用人工智能助力实现。