应用风险加剧 将AI关进笼子还需政策发力

时间:2019-09-17 来源: 国际新闻

      朱茵变杨幂的换脸视频犹在眼前,近日“换脸”APP “ZAO”又因其用户隐私协议不规范、存在数据泄露风险等网络数据安全问题被相关部门约谈。

      事实上,近年来,AI正在以一种超乎想象的速度迅猛发展,其背后隐藏的诸多问题也逐渐凸显。日前Facebook再次因数据安全问题受到关注,据外媒报道,一个存储了数亿Facebook用户电话号码的在线数据库泄露。面对AI治理难题,目前各国正加紧制定相关政策法规。

      大规模应用裹挟着诸多风险

      近年来,在AI产业的博弈中,各国都在全力争取发展先机。

      “无论从企业数量上还是投融资规模上看,美国和中国无疑是人工智能领域的重量级玩家。”国务院发展研究中心国际技术经济研究所研究一室副主任宫学源在《人工智能全球格局:未来趋势与中国位势》一书中提到,两国的科技巨头通过重新制定战略、大规模收并购等手段,已经在全球人工智能产业领域获得了极高的话语权。但从人均AI初创企业数量和人均投融资水平上看,英国、法国、德国和以色列等国家完全不落下风。日韩等国也正纷纷制定国家级战略,以期实现人工智能技术的反超和部分产业的引领。

      “机遇往往与挑战并存,AI大规模应用必将裹挟着诸多风险,如木马、病毒、僵尸网络等技术要素风险,电信网络诈骗、群体(算法)歧视等组织管理风险,色情信息、暴恐信息、虚假信息等在线内容风险。”北京师范大学网络法治国际中心执行主任吴沈括表示,因此,在给与AI足够的养分令其成长的同时,各国也都在汲汲探寻AI治理的方案。

      “民间”倡议百花齐放

      2018年,第40届数据保护与隐私专员国际大会上发布的《人工智能伦理与数据保护宣言》认为,应根据公平原则,在基本人权层面设计、开发和使用人工智能和机器学习技术;持续关注AI系统潜在影响和风险,并确立问责机制,实现“可控”;应改进人工智能系统的透明度和可理解度,以实现有效施行;作为整体“伦理设计”方法的一部分,应通过默认应用隐私原则和设计隐私来对人工智能系统进行负责任地设计和开发;应当减少和减轻因使用人工智能数据而可能导致的非法偏见或歧视。

      2019年,欧洲委员会发布《人工智能与数据保护指南》,也首先强调了人权和人的基本自由为先,特别是在个人数据保护方面。用于个人数据处理的人工智能研发应基于合法性、公平性、目的特定性、数据处理比例性、设计隐私与默认隐私、责任与合规展示(问责)、透明度、数据安全和风险管理等原则。

      与上述西方国家主导的宣言、指南相比,AI治理的中国路则出现了不一样的风景。法律层面,与大部分国家一样,《个人信息保护法》《数据安全法》《电信法》等相关法律正在拟定中;社群倡议方面,2019年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,明确指出了“AI治理八原则”:和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。清华大学人工智能与安全项目小组也提出“AI治理六原则”,即福祉、安全、共享、和平、法治、合作。

      2019年5月,北京智源人工智能研究院联合北京大学、清华大学、中科院等单位,共同发布《人工智能北京共识》,提出对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终保持向对社会有益的方向发展。

      AI治理中西方各有不同

      “从中西方国家社群团体的倡议指引中可以看出,双方治理AI在对人类共同福祉的追求、对公平公正价值的坚持、对系统管理风险的重视、对开放共享共治的倡导方面都持有相似的观点。”吴沈括指出,但在很多地方也体现出了差异。

      相较于西方国家,我国在遵循相同治理原则的基础上更希望能够实现人机和谐,如在“AI治理八原则”中的首条原则即为和谐友好,符合人类的价值观和伦理道德,促进人机和谐,服务人类文明进步。

      未来,东西方的融合交汇必将是AI治理的大趋势,动态持续的多边对话、以人为中心的顶层设计建构、着眼于应用场景的差别规范设计以及平衡安全发展的利益平衡规则都将成为东西方存异求同的立足点。”吴沈括说。(于紫月)

      [ 责编:张蕃 ]

http://www.whgcjx.com/bdsIW9Q.html

新闻排行
  1. ?    如果说小时候最想要什么东西,大概会是《哆啦A梦》里的记忆面包吧。  大家应该对记忆面包都不陌生,只要吃下印了课文内容的记忆面包,课文就记牢了,不仅能省下时间去玩,还能得到老师夸奖。    这

    ?    如果说小时候最想要什么东西,大概会是《哆啦A梦》里的记忆面包吧。  大家应该对记忆面包都不陌生,只要吃下印了课文内容的记忆面包,课文就记牢了,不仅能省下时间去玩,还能得到老师夸奖。    这...

  2. 不朽之壳王申中华A爆发快乐时光:主营业务薄弱,净利润亏损,股价是三天疯狂风来了,即使是猪也能飞。8月21日,深圳中华A再次出现涨停。自深圳中华A社会主义开拓示范区建设消息以来,深圳中华A已连续三个交

    不朽之壳王申中华A爆发快乐时光:主营业务薄弱,净利润亏损,股价是三天疯狂风来了,即使是猪也能飞。8月21日,深圳中华A再次出现涨停。自深圳中华A社会主义开拓示范区建设消息以来,深圳中华A已连续三个交...

  3. 25年前,我第一次走进新开的五星级电影院,我看到的第一部电影是《狮子王》。我是在一年的第一天,我很高兴。25年后,我仍然在同一个电影院,戴着3D眼镜,我又看了《狮子王》,而这次它是真正的版本《狮子王

    25年前,我第一次走进新开的五星级电影院,我看到的第一部电影是《狮子王》。我是在一年的第一天,我很高兴。25年后,我仍然在同一个电影院,戴着3D眼镜,我又看了《狮子王》,而这次它是真正的版本《狮子王...

  4.   原标题:Baby井柏然共进大餐晒合照皱纹爬上了女神的脸  Baby井柏然共进大餐  搜狐娱乐讯9月2日,An

      原标题:Baby井柏然共进大餐晒合照皱纹爬上了女神的脸  Baby井柏然共进大餐  搜狐娱乐讯9月2日,An...

  5. 酒鬼在半夜。“欺骗”加油站的女员工火舌立刻捡起三米高.视频

    酒鬼在半夜。“欺骗”加油站的女员工火舌立刻捡起三米高.视频...

  6. ?国务院新闻办公室于2019年8月14日星期三上午10点召开新闻发布会,并邀请国家统计局新闻发言人刘爱华于2019年7月介绍国民经济,并回答记者的提问。刘爱华:首先,我将告诉你7月份国民经济的基本情况

    ?国务院新闻办公室于2019年8月14日星期三上午10点召开新闻发布会,并邀请国家统计局新闻发言人刘爱华于2019年7月介绍国民经济,并回答记者的提问。刘爱华:首先,我将告诉你7月份国民经济的基本情况...

  7. 数万件兵器位列展厅  2214阳阳解答  随随着社会经济的快速发展,各国之间的交往日益密切,许多不同地区的文化也走到了一起。然而,许多在社会上享有声誉的人都喜欢向他们周围的人展示他们一生收集

    数万件兵器位列展厅  2214阳阳解答  随随着社会经济的快速发展,各国之间的交往日益密切,许多不同地区的文化也走到了一起。然而,许多在社会上享有声誉的人都喜欢向他们周围的人展示他们一生收集...

  8. 引皇马曼联哄抢北京时间8月6日消息,据英国媒体《每日邮报》报道,今年夏天关闭转会窗口的日子越来越近,托特纳姆有点着急,他们与中场球员埃里克森的合同只留下了一个一年,后者不想续签合同。因此,托特纳姆渴

    引皇马曼联哄抢北京时间8月6日消息,据英国媒体《每日邮报》报道,今年夏天关闭转会窗口的日子越来越近,托特纳姆有点着急,他们与中场球员埃里克森的合同只留下了一个一年,后者不想续签合同。因此,托特纳姆渴...

  9. 说到孩子的教育,每个家庭都是不同的。父母和学校之间的教育差异很大。小编带大家看看乐嘉如何教育孩子。这

    说到孩子的教育,每个家庭都是不同的。父母和学校之间的教育差异很大。小编带大家看看乐嘉如何教育孩子。这...

  10. ?  今年中国女排国家队的比赛还有两项赛事,一个是奥运会预选赛,一个是女排世界杯的比赛。女排世界杯的比赛过后,各个国家的女排联赛就开始了。朱婷本赛季是不出国打球的,所以今年我们可以在中国女排超级联赛的

    ?  今年中国女排国家队的比赛还有两项赛事,一个是奥运会预选赛,一个是女排世界杯的比赛。女排世界杯的比赛过后,各个国家的女排联赛就开始了。朱婷本赛季是不出国打球的,所以今年我们可以在中国女排超级联赛的...

友情链接