靠谱吗?人工智能审移民申请 报告指风险高存偏见

原标题:靠谱吗?人工智能审移民申请 报告指风险高存偏见

根据最新的一份研究报告显示,联邦移民部在审批移民和难民申请时,以人工智能技术取代人手处理,可导致不公平和带有歧视性的审核结果。

根据多伦多大学(University of Toronto)的一份研究报告显示,移民部以电脑程式代替人作出判断,是一种高风险的实验,直接威胁到申请人的人权。

有份撰写研究报告的莫尔纳(Petra Molnar)。

多伦多大学在周三发表该份88页的研究报告指,许多难民和移民申请个案相当复杂,单靠科技不一定能识别出其中的些微差异和复杂性,电脑判断可导致带有偏见和歧视的决定,违反国际和国内的保障人权政策。报告又指,许多难民申请人为了逃命而来到加国,这个生死攸关的决定不应由电脑去做。

建议设独立监督机构审查

研究人员咨询了30多位专家的意见,包括电脑专家、技术专家、律师、倡议组织等,以及来自全球各地的学者,他们来自加拿大、美国、香港、韩国、澳洲及巴西。此外,研究人员也向8个不同的政府部门和机构,提交了27份查看资料的申请,但至今尚未收到任何数据或回应。

有份撰写研究报告的莫尔纳(Petra Molnar)表示,利用电脑程式审核申请,不一定代表中立客观,因为电脑程式是根据人的指示运作,其功能与橡皮图章无异。公民实验室(Citizen Lab)的库奥(Cynthia Khoo)指,越来越多机构利用人工智能科技作为决策工具,因为他们假设科技可以纠正人手处理的错漏,但问题是人工智能也是根据人提供的数据和指引。

报告建议,联邦政府建立一个独立的监督机构,审查联邦政府使用的所有自动决策系统,公布政府目前和未来使用的人工智能科技,并建立一个工作组,详细了解这些技术对当前和未来的影响。返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
阅读 ()
免费获取
今日搜狐热点
今日推荐