无人驾驶原则和公共场所人脸识别,拷问人工智能的底线

原标题:无人驾驶原则和公共场所人脸识别,拷问人工智能的底线

技术必须遵从人民的权利,欧盟发布人工智能白皮书

戴姆勒:人类仍将是技术的创造者

图片来源:戴姆勒

1814年,英国人乔治·斯蒂芬森发明了人类历史上第一台蒸汽机车,被称为“旅行者号”,它在前进时不断从烟囱里冒出火来,因此被称为“火车”。

1825年英国建成第一条铁路,当年9月,“旅行者号”机车拖着三十多节小车厢正式试车,以每小时24千米的速度跑完了40千米的路程。

当时,在技术怀疑论者看来,火车头是“邪恶之物”,他们预测人类会因为这项“地狱般的”发明吞下恶果。例如担心火车上冒的烟会毒害乘客,火车气流会引发肺炎,火车快速的节奏会让大脑产生错乱等等。

怀疑论者为何又改变了看法了呢?

戴姆勒董事会成员、负责诚信经营与法律事务白韵格(Renata Jungo Brungger)女士提出了两个方面的原因:一是因为随着时间推移,人们完全适应了这些科技的存在,甚至开始明白了新科技的价值。还有就是,迟早,制约这些新科技的规则会制定出来。

德国时间2019年9月10日上午,她在当天开幕的法兰克福车展上关于戴姆勒人工智能指导原则的演讲时认为,今天数字化转型也正经历着同样的变革,人工智能的兴起也同样如此,它们带来了相似的挑战。

咨询公司普华永道(PwC)预计,到2030年,人工智能将带动中国、北美和欧洲GDP分别增长约26%、14%和10%。这一技术不仅有助于克服气候行动带来的诸多挑战,而且能进一步优化在交通运输、医药和农业等多个领域所取得的成效。

汽车商业评论注意到,虽然技术专家、商界领袖和政府官员都认同人工智能是世界上最具变革性的技术之一,但他们普遍注意到,这也给个人隐私和日常生活也带来了新的风险。

白韵格说:“人工智能已经全面融入到了我们的日常生活当中,在自动驾驶领域就是很好的例证。然而有史以来,每项发明都充满魅力,同时也让人心生敬畏。”

她表示,对于大多数人工智能应用来说,大量的数据必不可少,包括个人数据。然而很多客户并不希望自己的个人信息被泄露。他们担心数据保护并不完善、数据被篡改,或者因此造成失控。有些人甚至担心如此发达的人工智能系统有一天会统治世界。

如何在抓住人工智能所带来的机遇的同时,化解随之而来的危机、恐惧和挑战?

为此,戴姆勒确定了四项原则:合理利用;可解释;保护隐私;安全且可靠。白韵格强调:“人类仍将是技术的创造者!”

博世:人类必须保留对人工智能所做决策的最终控制权

图片来源:博世

当地时间2020年2月19日,德国工业巨头博世也提出了类似的《AI道德准则》,即人工智能必须安全、可靠且可解释,人类应始终保留对人工智能的控制权。

博世是在当天柏林召开的第七届博世互联世界大会(BCW)开幕式上发布这一指导方针的。

“人工智能是服务于人类的工具,任何可能对人造成影响的人工智能决策都需要人类的监管。”博世首席执行官沃尔克马尔·邓纳尔(Volkmar Denner)如此表示。

此前,博世决定以《世界人权宣言》体现的价值观为基础,积极应对人工智能技术使用过程中出现的道德伦理问题。

博世集团首席数字官兼首席技术官 Michael Bolle博士说:“只有当人们不再将人工智能视为神秘的‘黑匣子’时,信任的种子才会萌芽。而信任将是成就互联化世界不可或缺的要素。”

他表示,新发布的博世《AI道德准则》秉持“科技成就生活之美”的理念,将创新精神与社会责任相结合。

根据博世《AI道德准则》,人工智能必须在某种程度的人为介入或影响的条件下做出决策。它包含了三种机制,它们遵守着一个共同的原则,即博世开发的人工智能产品中,人类必须保留对人工智能所做决策的最终控制权。

第一种机制为人工控制(human-in-command),适用于人工智能仅作为一种辅助工具出现的情境。例如,在决策支持系统中,人工智能协助人们对物体或生物进行分类。

第二种机制为使用阶段的人为干预(human-in-the-loop),适用于人工智能系统可以进行自主决策,但人类能够随时干预其决策的情境。比如驾驶辅助系统,驾驶员可以直接干预停车辅助系统的决策等。

第三种机制为设计阶段的人为干预(human-on-the-loop),适用于紧急制动系统等应用。开发此类智能产品时,专家将定义参数作为人工智能决策的基础,而人类不参与决策,由人工智能进行。但是,工程师可以随时追溯检查机器是否遵守所设定的参数进行决策,必要情况下可以修改参数。

博世计划在今后两年对近2万名员工进行人工智能培训。《AI道德准则》也会作为培训内容的一部分。

据称,到2025年,每款博世产品都将带有人工智能功能,或者在开发和生产过程中运用人工智能技术。

普华永道的一份报告显示,自2018年以来,欧洲各种组织共发表了44份报告,对“人工智能伦理”提出了建议。

脸书:承诺加强应对网络有害信息

图片来源:麻省理工科技评论

汽车商业评论注意到,无论是戴姆勒还是博世,它们对人工智能的关注更多的落脚点是人类对人工智能的控制权,但是来自硅谷的巨头,他们对人工智能的关注点,更多在于隐私方面。

人工智能如今出现在苹果的Siri和Face ID等产品中,也为谷歌的搜索引擎、自动驾驶汽车以及Facebook的广告业务提供动力。2020年1月以来,Facebook、谷歌以及苹果高层纷纷造访布鲁塞尔,因为欧盟将对人工智能监管出台政策。

首先是谷歌母公司Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)来到比利时布鲁塞尔。然后,苹果公司负责人工智能的高级副总裁约翰·詹纳安德里亚(John Giannandrea)也出现在这里。

2018年以来,欧盟通过了有关数字隐私的法律法规,并在反垄断问题上对谷歌和其他公司进行惩处,这也促使世界其他地方相继对科技行业巨头采取更严厉的行动。

欧盟委员会的新的人工智能政策也可能成为其他国家和地区竞相效仿的模板,诸如谷歌、脸书和苹果等这些在人工智能上押下重注的科技巨头非常担心。

皮查伊在造访布鲁塞尔期间发表演讲承认人们确实担心人工智能可能带来的负面影响,需要对人工智能进行适当的监管,但他认为“需要找到一个平衡点”,以确保规则不会扼杀创新。

德国时间2月17日,脸书(Facebook)首席执行官马克·扎克伯格(Mark Zuckerberg)也加入前往布鲁塞尔的行列,与欧盟委员会执行副主席玛格丽特·韦斯塔格尔(Margrethe Vestager)等当地官员会面。他希望通过承诺加强应对网络有害信息来换取欧盟降低针对域外企业的市场准入门槛。

多年来,美国立法者和监管机构基本上不干涉硅谷公司的发展,允许这些公司不受阻碍地发展,对社交网络上虚假信息的传播等问题几乎不加审查。

韦斯塔格尔将欧洲在科技监管方面更为强硬的立场比作其对农业的监管。美国所允许使用的许多杀虫剂和化学药品在欧洲都是被禁用的。

她表示,欧洲的做法是,如果事情有风险,那么整个社会都希望对此进行监管,“对我们来说,最重要的是创建一个让人们觉得他们可以确信所发生事情的社会”。

韦斯塔格尔负责统筹协调关于欧洲人工智能政策的初稿。2019年12月1日正式出任欧盟委员会主席的物理学家冯德莱恩(Ursula von der Leyen)上任之初就给了韦斯塔格尔100天的最后期限,让她在截止日期之前公布一份关于人工智能的初步提案。

韦斯塔格尔表示自己并不担心人工智能在Spotify上推荐一首歌曲或在Netflix上推荐一部电影,她关注的是决定谁能获得贷款或诊断出什么疾病的人工智能算法。

她对面部识别技术的广泛应用格外担忧,并表示在这项技术“无处不在”之前可能需要有新的限制。当时还曾经传出欧盟人工智能白皮书草案建议3至5年内禁止人脸识别技术应用于公共场所。

欧盟:技术必须遵从人民的权利

图片来源:博欧盟委员会

2月19日,也就是博世推出《AI道德准则》的当天,欧盟委员会主席冯德莱恩在布鲁塞尔发布了《人工智能白皮书》,它包括了有关企业如何使用人工智能这一史无前例的规定。

这份大约30页的白皮书由政策框架和未来监管框架要素两部分组成,概述了欧委会的AI战略:既要在经济上迅速发展以赢下科技竞争,又要在道德上符合欧洲大陆的价值标准。

欧盟委员会指出,人工智能发展迅猛,欧洲需要为此增加投资,同时也要应对一系列潜在风险。冯德莱恩强调,技术必须遵从人民的权利。

白皮书提出要建立一个“可信赖的人工智能框架”,重点聚焦三大目标:研发以人为本的技术;打造公平且具有竞争力的经济;建设开放、民主和可持续的社会。

虽然未来3到5年人脸识别限制条款并未出现在这次正式公布的白皮书中,但白皮书还是在保护公民隐私和数据安全方面制定了一系列措施。

针对人脸识别,白皮书称,收集和使用生物数据用于远程识别目的对基本权利有特定风险,欧盟数据保护规则原则上禁止以识别特定自然人为目的处理生物数据,特殊条件除外。

白皮书表示:“为解决在公共场所以此目的使用人工智能可能引起的社会关切,避免在内部市场出现分裂,欧盟委员会将在欧洲展开广泛辩论,讨论可能正当的应用情况(如有)和共同保障措施。”

同时,人工智能企业必须通过相关部门的安全测试和资质审核才能进入欧盟市场。其中,医疗设备、自动驾驶、社会保障和移动支付等“高风险”行业的人工智能企业均被列为重点审核和监管对象。

欧盟司法委员雷恩德斯指出:“如果自动驾驶汽车出现交通事故,谁将为此承担责任?我们必须对类似问题作出规定。”

未来三个月内,欧盟的这份人工智能白皮书将接受各界人士的公开咨询,再根据反馈结果进行相应修订。

2020年底,欧盟将制定出台《欧盟数字服务法》等具有法律约束力的数字规则,从而对规范市场准入、强化企业责任和保护基本权利等问题作出明确规定。

这些规定不仅适用于欧洲本地企业,也将对在欧盟运营的第三国数字企业产生重要影响。

白皮书:欧洲新数字战略的开始

图片来源:博世

2010 年以来,欧盟把实现智能增长作为其三大增长目标(智能型增长、可持续增长和包容性增长)之一。

2013 年,宣布正式实施“人类大脑计划”和“石墨烯计划”两个“未来新兴技术旗舰计划”。 欧盟人类大脑计划的主要研究目标是实现对人类大脑的人工模拟,是世界上第一个脑科学大科学工程。

此项计划不仅致力于揭示人类大脑的活动机理和人类认知的本质,而且其理论成果可直接为人工智能发展提供最有力的支持。汽车商业评论认为,这可能也是为什么戴姆勒和博世都更加强调人类对人工智能主导的重要原因。

围绕实现智能增长的目标,欧盟大力推进“数字议程”的实施,着力于构建“数字单一市场”,加速“工业4.0”进程。2017 年,欧盟正式宣布其覆盖全部成员国的数字单一市场步入正式建设阶段。

2018 年,欧盟启动第 3 个未来新兴技术旗舰计划“量子技术”,积极发展量子网络通信和量子计算机等,在数据传输、分析、处理能力上为人工智能发展奠定基础。

从数字医疗到精准农业,从自动驾驶到智慧城市,人工智能技术应用领域广泛,经济潜力巨大,尽管如此,欧盟在人工智能研发和应用方面已经落后于美国和中国。

世界知识产权组织最新发布的统计报告表明,目前全球85%以上的人工智能相关技术专利来自中美两国企业。

最细发布的欧盟《人工智能白皮书》表示,欧洲需要大幅提高人工智能研究和创新领域的投资水平,目标是未来10年中,每年在欧盟吸引200亿欧元的AI技术研发和应用资金。

欧盟估算,欧盟人工智能等数字技术的现有经济规模为3000亿欧元,占欧盟国内生产总值的2.4%,5年之后这一数字将是目前的三倍。人工智能等产业已经为欧盟创造了570万个就业岗位,5年后这一数字最少将会翻一番。

目前,博世在全球7个地点设立了人工智能中心。作为巴登符腾堡州“Cyber Valley”研究联盟的创始成员之一,博世将投资1亿欧元用于建设人工智能园区,该园区的700名专家将很快能够与外部研究人员和初创公司并肩工作。

毫无疑问,这份白皮书代表了欧洲新数字战略的开始,同时对美国及中国科技企业提出了更高的要求。

因此,韦斯塔格表示,人工智能等数字战略的出台,为欧盟提供了成为世界先进技术领导者的第二次机会。返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
免费获取
今日搜狐热点
今日推荐