代表委员提醒： 重视AI换脸背后的伦理隐忧

　　两会声音

　　前段时间，一则短视频火了。网友用人工智能技术，将电视剧《射雕英雄传》中演员朱茵的脸换成了杨幂。这个杨幂版“黄蓉”毫不违和，古灵精怪，娇俏可人，你甚至都看不出视频有被处理过的痕迹。

　　技术非常好玩，让人跃跃欲试。而且，现在还有相关程序，只要你有足够的素材，有一台配置不错的电脑，就能完成一段“变脸视频”。

　　所以，眼见也不一定为实。

　　其他问题同样就在眼前：智能驾驶车已经充分利用了人工智能技术，有一定的自主能力。商用后，如果发生了意外，出现了事故，责任人是谁，法律主体怎么认定？是制造商、算法的开发商，还是使用者本人？全国人大代表、腾讯公司董事会主席兼首席执行官马化腾将他的顾虑一一道来。他告诉科技日报记者，新技术带来的科技伦理问题越来越热，但现在都没有明确规则，“因为太新了”。

　　人工智能正在渗透进你我的生活。它向你推荐餐厅，它为你进行搭配，它帮你筛选新闻，它还能替你选择伴侣……现在，它根据你的需求，能为你定制一段并不存在的视频。正如全国人大代表、天津大学党委书记李家俊所说，人工智能对数据的收集和挖掘，有可能侵害个人隐私甚至危害公共安全；而从宏观局面来说，人工智能技术的发展，还可能引发新产业革命和经济结构调整。

　　如何让这柄“双刃剑”在社会治理中发挥正向作用？马化腾给出的药方是，强化科技伦理的制度化建设。

　　在国家层面，他建议针对相关新技术制定伦理准则，对新技术应用进行引导和规范。马化腾说，行业主管部门可以与行业主体、学术团体、社会公众等多利益相关方合作，制定相关伦理准则，并支持行业自律，包括建立伦理审查制度、成立自律组织、制定行业标准等。在国际层面，应积极推动新技术领域的全球治理，参与国际标准、规则的制定，推动建立人工智能研发与应用的全球共同伦理框架，确保人工智能持续造福全人类和全世界的发展。

　　更具体一些来说，则要为相关人工智能应用建立安全标准，打击和人工智能相关的新型犯罪，为人工智能应用探索制定恰当合理的规则。

　　和马化腾一样，李家俊也建议建立相关伦理规约体系。在他看来，不同的主体，应发挥好各自的作用。

　　首先，是决策者立德。李家俊建议，由中国科协组织人工智能及相关领域专家学者制定我国的《人工智能伦理章程》，设置人工智能的伦理框架、道德准则，其次，由国家市场监管总局牵头，做好人工智能技术、产品的伦理审查，从技术层面做好人工智能的道德预设，“而研发者也要承担自己的责任”。今年政府工作报告中指出，要加强科研伦理。李家俊说，可以由科技部牵头，组建人工智能伦理委员会，对科研人员的社会责任、职业规范提供监督指导，并从制度上为人工智能研发明确禁区、划定边界、树立底线。

　　深度学习算法常被称作“黑匣子”，连算法设计者自己也不知其如何运作，更别说对其给出的运算结果进行解释。李家俊强调，应该提升人工智能算法的可解释性和可预测性，强化人机互动间的反馈信度、理解精度和执行效度，维护健康有序的人机关系，构建社会公序良俗。

　　“所有行业的高级发展、终极模式，最终都要跟AI结合。”马化腾表示，对人工智能发展中的伦理问题，可以先从研究和倡议开始。“这是第一步，但现在做得也还远远不够。”(科技日报北京3月6日电)