全国政协委员王先进谈人工智能治理：建议实行伦理、科技、法制三角治理机构平衡创新发展与精准治理

全国政协委员、交通运输部科学研究院副院长王先进

　　中国网科技3月5日讯(记者 张润琪)近年来，伴随着人工智能迅速发展，人工智能治理成为了社会各界广泛关注的重要议题。为此，全国政协委员、交通运输部科学研究院副院长王先进在2021年全国两会上，准备了一份题为《关于构建高效灵活的人工智能治理体系》的提案。

　　人工智能治理处于初期探索阶段 存在监管体系滞后于技术发展等难题

　　据王先进介绍，人工智能治理还处于初期探索阶段，正在向可信评估、操作指南、政策法规等方面落地实践、逐步深入。2017年国务院发布《新一代人工智能发展规划》明确要从法律法规、伦理规范、重点政策、知识产权与标准、科学普及等方面为人工智能发展提出保障措施。2019年科技部牵头的国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》，提出了人工智能治理的框架和行动指南。

　　王先进在接受中国网科技记者采访时表示，从《新一代人工智能治理原则》发布到现在，我国在AI治理方面取得了长足进步。在法律政策层面，相关部门发布了多项法律法规为AI治理划定“红线”，比如《中华人民共和国民法典》对个人信息保护，AI换脸、变声侵犯肖像权等内容做出了明确规定。同时，有非常多的专家学者对AI伦理涉及到的议题进行讨论，比如WAIC、智源大会中涌现出了诸多值得深思的观点。而各方也在积极向全球输出“中国样本”，比如2020年发布的《全球人工智能治理年度观察2019》就是首份由我国智库发起全球参与的人工智能治理报告。

　　另外，企业界也在对AI治理做出积极的努力，王先进称，“据我了解，我国有一批像旷视科技一样的人工智能企业，正在积极探索适合本土国情的治理方法论，他们不仅成立了国内首个人工智能道德委员会，组建了AI治理研究院，还与研究机构、高校形成生态联盟，共同研发课题等。”此外，王先进认为，我国民众的AI治理意识正在觉醒，并逐渐参与到AI治理的环节中来，如“人脸识别第一案”正是体现了我国人民对于科技的认知和思考正在“成长”。

　　但是，王先进发现，人工智能因算法不透明、难解释、跨界传播性和外溢性强，比一般的数字治理涉及范围更广、难度更大、问题更突出。

　　王先进在提案中提到，人工智能存在监管体系滞后于技术发展、政府单向监管无法有效管控风险、企业缺乏合规治理有效工具和体系等问题，触发个人隐私保护、冲击就业格局、危害公共安全等风险，给治理体系带来全新挑战。须高度重视美国、欧盟、英国、日本等各主要国家地区已经将治理纳入各国人工智能发展战略中，我国亟须增加国际人工智能治理体系的话语权和影响力。

　　建议实行“三角”治理机构平衡创新发展 鼓励企业“自治”

　　对此，王先进提出四项建议：一是实行伦理、科技、法制三角治理机构平衡创新发展与精准治理。伦理规范引导先行，落实AI伦理原则，通过先行预设及时引导科技向善、健康发展；通过法律法规明确底线，明确责任归属，争取实现“敏捷治理”；通过技术工具和标准制定等技术手段解决技术发展问题。

　　针对目前亟需解决的人工智能技术发展问题，王先进告诉中国网科技记者，从人工智能技术应用所产生社会问题类型看，主要可分为由技术发展所引发的所谓“新问题”，和由技术应用所激化的社会既有问题。新问题包括因个性化算法大规模应用所导致的信息茧房、机器创作的版权、自动驾驶汽车追责等；老问题则包括人脸识别加剧社会歧视、由各类智能监控带来的社会无隐私担忧等。

　　而从人工智能技术引发问题的风险环节看，主要包括数据、算法与系统、应用三个环节。因此要想系统化对人工智能进行治理，实现技术对社会的正向促进，就应该在构建体系化的伦理、法制框架外，还应引入并大力推广针对数据问题、算法与系统问题、应用问题的技术治理解决方案。以技术治理技术问题，不仅可以在很多情况下高效地识别、管理和应对潜在风险，同时也能激发技术创新，变革经营模式。

　　二是提倡多元共治，厘清各方责任。建立以多元共治实现对AI治理的长效机制，将政府、企业、行业组织、科研机构、媒体、公民等利益主体联合起来，共同解决复杂问题；明确AI技术应用中终端厂商、经销商、应用开发者、用户等参与各方的权责，确保责任可追溯；政府和行业组织应加强对人工智能等新技术应用的科普，引导理性客观的舆论报道。

　　三是人工智能企业躬身入局，加强企业自治。鼓励企业承担创新技术创新应有的责任，自觉完善内部治理和合规管理，开展技术和产品人员的技术道德伦理培训，同时提升数据保护技术能力。主管部门可通过优秀案例评选等方式总结企业治理可复制的经验和模式，通过适当方式予以宣传推广。设立人脸识别等敏感领域的准入资质。

　　王先进表示，中外人工智能企业已经意识到了人工智能技术所带来的治理问题，并纷纷公开发布各自的人工智能伦理原则或治理标准，例如我国的科技巨头百度、腾讯、阿里等企业倡议对人工智能技术的正当使用和数据安全保护。同时，作为中国最早的一批AI企业，旷视在国内企业中率先发布了《人工智能应用准则》，在企业内部从研发学术、产品工程、客户渠道、运营管理等四个维度进行治理实践推进。

　　“但目前来看，行业里尚未出人工智能治理的标准化管理路径或成熟模式。”王先进认为，企业做AI治理，是AI企业要想实现长期发展的必由之路。如果企业不在AI技术商业化的初期就规划好AI应用的正确路径，引发出一系列问题后再去治理，无论是企业和社会都难以承担这个成本。当然，企业在发展的过程中不可能把所有的问题都看得非常全面，其中蕴含了技术发展与文化、道德伦理的冲突，需要社会各界给予输入和指导。

　　四是加强国际治理对话和国际标准布局。积极参与国际治理和标准研讨，同时请主管部门支持引导头部企业参与G20的多边国际标准和治理规则讨论，形成政府和企业双轨沟通互补，强化我国AI领域国际影响力和话语权，引导AI领域的国际治理规则和标准制定。