首页>园区 > 园区产业 > > 正文

探索AI发展边界,中关村科学城贡献示范力量

2020-09-29 09:35:25
来源:中关村科学城  评论:0
导语:近日,中关村科学城新型研发机构北京智源人工智能研究院推出了阶段性成果“人工智能治理公共服务平台”。
  利用算法“杀熟”,利用数据分析影响公众的认知判断,对抗性伪图像骗过了护照人脸识别系统……伴随着人工智能的快速发展,这些“风险”已经出现在我们的生活中。

  人工智能作为一种新技术,本身是中性的,它带来正面还是负面影响取决于人类如何应用它。作为人工智能的高地,中关村科学城的科学家、研究者们也在思考如何让人工智能发展与治理并重,不断探索AI发展边界。

  近日,中关村科学城新型研发机构北京智源人工智能研究院推出了阶段性成果“人工智能治理公共服务平台”。

  具备检测功能,避免潜在风险与隐患

  人工智能治理公共服务平台的主要功能与目的是帮助人工智能的科研、创新者、机构、产业、政府等针对其人工智能设计、模型算法、产品与服务中潜在的社会与技术风险、安全、伦理等问题进行检测,并针对潜在问题给出相关的伦理与治理原则与规范,提供相应的案例与研究,从而一定程度上帮助避免潜在风险与隐患。

  迄今为止,政府间组织、不同国家的政府、科研机构、企业、非赢利与非政府机构等已经针对人工智能全领域的伦理与治理提出了超过70个不同的原则提案,为人工智能的发展提出了方向与原则。为推动人工智能向有益的方向负责任地发展,“人工智能治理公共服务平台(Artificial Intelligence Governance Online)”在此基础上精选了其中20+项法规与AI原则,主要包括:

  本次发布的人工智能治理公共服务平台(第一期)设计了8大评估维度,100余个评估选项,总共包含700余条解析。为了增加对抽象的伦理与治理原则的深刻理解,AI治理公共服务平台收录了30+个人工智能风险与治理的相关研究与典型案例,并提供案例在线提交与分享的功能,鼓励人工智能领域的专家学者与技术实践者、伦理专家、社会专家共同分享、共同完善。平台同步发布中文、英文版本。

  比如,关于人工智能可能存在的风险和伦理方面,我们从八大维度设定它在哪些方面可能出现问题。大家看到橘黄色是需要注意的问题,如果一旦出现红色或者被标黄的地方,系统建议不要上线。

  它能为人工智能的研发、产品和服务提供人工智能治理和安全的评估,比如合法合规,对于环境与社会有益;比如人工智能发展要保护我们的环境;比如在以人为本方面,如何做到以人类为中心,尊重人类的权利;比如在公正性、代表性无偏见,人工智能发展不能把社会的偏见嵌入人工智能当中。

  比如,平台会对人工智能产品服务或者多模算法进行整体评估,并且指出哪些方面是好的,有哪些伦理和治理方面做得不够好,在回答问题时候对应曾经出现问题的一些点,可以看到它跟哪一些国家公布的伦理原则、法规等等相互冲突,也会给出具体的建议,如何根据这些原则进行修改。

  实现开放共享,发展与治理协同驱动

  为推动我国新一代人工智能发展与治理双轮驱动,国家新一代人工智能治理专业委员会于2019年6月17日发布了《发展负责任的人工智能:新一代人工智能治理原则》。原则指出:“为促进新一代人工智能健康发展,更好协调发展与治理的关系,确保人工智能安全可靠可控,推动经济、社会及生态可持续发展,共建人类命运共同体,人工智能发展相关各方应遵循:和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八大原则。”

  北京智源人工智能研究院联合中国科学院自动化研究所中英人工智能伦理与治理研究中心等单位,共同研发人工智能治理公共服务平台,平台将分多期发布,并开放给全社会使用,从而推进新一代人工智能的治理工作进行技术与社会双落地。

  北京智源人工智能研究院人工智能伦理与可持续发展研究中心主任曾毅在发布该平台时说:“人工智能治理公共服务平台”最重要的是其意义,即倡导发展与治理的协同驱动。此外是治理模式的演变:应从顶层监管为主演变为以公共服务为主,顶层监管为辅。人工智能治理不但需要顶层监管,更需要推进为公共服务,帮助人工智能研发、企业、应用方防患于未然。期待人工智能治理公共服务平台能够为新一代人工智能的可持续发展保驾护航,确保人工智能的发展对人类、社会、生态的可持续发展作出积极贡献。

  目前“人工智能治理公共服务平台”中英文版已经上线,点击阅读原文,即可登陆体验!不来测一测你的产品吗?
        图片来源:中关村科学城

(责任编辑:贾法泉)

版权与免责声明:
①凡本站注明稿件来源为:中国高新技术产业导报、中国高新网、中高新传媒的所有文字、图片和音视频稿件,版权均属本网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网授权使用作品的,被授权人应在授权范围内使用,并注明“来源:中国高新网、中高新传媒或者中国高新技术产业导报”。违反上述声明者 ,本网将追究其相关法律责任。
② 任何单位或个人认为本网站或本网站链接内容可能涉嫌侵犯其合法权益,应该及时向本网站书面反馈,并提供身份证明,权属证明及详细侵权情况证明,本网站在收到上述文件后,将会尽快移除被控侵权的内容或链接。
③如因作品内容、版权和其他问题需要与本网联系的,请在该事由发生之日起30日内进行。电话:010-68667266 电子邮件:dbrmt#chih.org (请将“#”换为“@”)
排行
  • 全部/
  • 本月

编辑推荐


扫描添加 中国高新技术产业导报

(数字报)

扫描添加 中国高新APP客户端
扫描添加 新浪微博
扫描添加 腾讯微信公众号