12月26日下午,2024中国信通院ICT深度观察报告会科技伦理治理分论坛举办。会上,人工智能产业发展联盟科技伦理工作组筹备工作正式启动。
记者从会上获悉,人工智能产业发展联盟成立于2017年,由国家发改委、工信部、科技部、网信办指导,中国信通院会同相关人工智能企业单位共同成立。联盟聚集了产业生态的各方力量,联合开展人工智能技术、标准和产业的研究,共同探索人工智能的新模式和新机制,推进技术、产业与应用的研发,开展试点示范,广泛开展国际合作,形成全球化的合作平台。
党中央和国务院一直高度重视科技伦理的治理工作。2022年3月,中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》,要求建立多方协同合作机制,凝聚共识,形成合力,发挥科技类社会团体的作用,促进行业自律。
近年来人工智能技术迅猛发展,尤其是生成式AI和大模型异军突起,开启了从专业人工智能走向通用人工智能的道路。人工智能在赋能千行百业的同时,也带来了歧视偏见、技术失控、不可解释等科技伦理的风险,对人工智能产业健康和可持续性发展带来了巨大的挑战。为深入落实党中央、国务院决策部署和工业和信息化部有关要求,有必要在联盟内成立科技伦理工作组,汇聚人工智能文明治理力量,共同防范人工智能的文明风险。
人工智能产业发展联盟科技伦理工作组的成立,旨在聚集产业各方力量,联合开展人工智能伦理的治理理论、治理技术和标准、伦理审查规范等研究工作,加强行业自律,深化人工智能伦理的国际合作,推动人工智能伦理原则的技术化、工程化和标准化,提升人工智能伦理治理的能力,促进人工智能产业的健康发展。主要任务包括开展人工智能科技伦理的重点问题研究,支撑相关政策文件的研究制定;开展人工智能科技伦理前沿动态跟踪研究,及时识别科技伦理风险,做好风险防范举措研究;开展人工智能科技伦理治理技术工具的研究,推动人工智能伦理的原则落地实施;开展人工智能科技伦理的审查细则研究和相关的标准制定,指导人工智能相关机构开展人工智能的伦理审查;开展人工智能科技伦理的宣传教育培训,提升人工智能科技从业者以及社会公众的伦理素养;开展人工智能科技伦理的治理典型案例的研究,分析产业落地经验,宣传和推广产业科技伦理优治理的优秀实践,推动政府、企业、第三方研究机构在人工智能科技伦理治理方面的协作,共同应对科技伦理的挑战,推动人工智能科技伦理的国际交流与合作,参与全球的人工智能科技伦理治理。
接下来,人工智能产业发展联盟科技伦理工作组将广泛征集工作组成员,依托人工智能产业发展联盟平台,通过定向邀请和广泛宣传的方式,吸引更多的企业、高校、研究机构参与工作组。举办人工智能科技伦理的教育培训,面向人工智能从业者开展人工智能科技伦理的培训。开展人工智能的审查细则的研究,汇聚技术、社会学、法学等跨学科的领域专家,开展人工智能科技伦理的细则审查工作。开展人工智能科技伦理的相关标准研究,聚焦生成式人工智能,出台科技伦理管理和技术的相关标准。
(责任编辑:王丹萍)