上海市人工智能产业安全专家咨询委员会，旨在瞄准国际人工智能产业发展前沿，服务上海发展的定位和需求，构建专家协同网络，推动人工智能产业健康发展。安全专委会由来自高校、科研院所和企业的相关专家组成，中国科学院院士何积丰担任主任。

　　当前，对人工智能产生的安全风险加强战略性、前瞻性的研究部署，逐渐建立相应的法律法规、伦理规范和政策体系，已经成为国内外的共识。中国是世界人工智能安全治理的重要参与者，上海正在加快推进人工智能高地建设，此次会议发布的《人工智能安全发展上海倡议》不仅是安全专委会成立后发布的首份倡议文件，更是上海向全国、全世界发出的宣言。

　　倡议在充分吸纳国内外人工智能安全共识的基础上，从应对人工智能安全挑战，守护智能时代人类未来的主旨出发，提出八大目标原则及基本要求，内容包括：

　　面向未来：人工智能发展需要实现创新与安全的协同，以安全保障创新，以创新驱动安全。在确保人工智能自身安全的同时，积极将人工智能技术应用于解决人类社会的安全难题。

　　以人为本：国际社会应一道科学规划人工智能的发展路径，确保人工智能按照人类预期并服务人类福祉方向发展，机器自主进化和自我复制等关键进程须进行风险评估和安全监管。

　　责任明晰：人工智能发展应当建立完备的安全责任框架，需要针对人工智能的应用场景，不断创新法律法规和伦理规范，明确人工智能安全责任认定和分担机制。

　　隐私保护：人工智能发展需要保障用户的数据安全，人工智能发展不得以牺牲用户隐私为代价，需要加强数据保护立法，丰富人工智能的技术路线，不断强化人工智能应用中的用户隐私保护。

　　算法公正：人工智能发展应避免由于算法设计对公众产生的危害，须明确算法动机和可解释性，克服算法设计和数据收集引发的不公正影响。

　　透明监管：人工智能发展应当避免技术黑箱导致的安全风险，需要通过建立可审查、可回溯、可推演的监管机制，确保目标功能和技术实现的统一。

　　和平利用：人工智能技术应当审慎运用在军事领域，自主化武器的研发和使用须遵循严格的风险评估，避免由于人工智能技术在军事领域滥用对全球和平稳定的威胁。

　　开放合作：人工智能发展需要各国、各方的协同共进，应当积极在国际范围建立人工智能安全发展的规范和标准，避免技术和政策不兼容导致的安全风险。

　　上海市政府副秘书长陈鸣波表示，基于上海科技创新、场景丰富和人才集聚的优势，组建成立上海市人工智能产业安全专家咨询委员会，为国家人工智能产业安全发展先行先试。按照技术突破、产业创新和法律研究各方面需求，兼顾地域和领域代表性，召集跨界别的专家、学者和企业精英，探讨“产学研用”深度融合，既推动上海人工智能安全产业蓬勃发展，又进一步推动引领全国人工智能产业安全发展。依托专委会平台，将紧扣国家战略、上海定位和区域需求，围绕中长期战略规划、重大项目评估、重点应用领域安全实践、前沿课题研究等，共商共治、群策群力，为上海探索一条更有包容性、更具开放性的安全发展模式和工作路径。

　　会上，安全专委会主任何积丰院士宣布启动2019世界人工智能产业安全创新实践案例征集和优秀论文征集活动。面向全球企业征集人工智能产业安全领域的标准规范、研发成果、产品/服务、解决方案等实践案例，面向全球高校、科研院所、国际组织等机构中从事人工智能安全领域研究的科研人员和青年学生，征集高质量、高水平的学术论文。征集活动的评选成果将在2019世界人工智能大会期间对外公布。