AI冒充老板骗走173万!伪装成你只需5秒

原标题:AI冒充老板骗走173万!伪装成你只需5秒

来源 l 投资家网(ID:touzijias)

作者 l 飞碟瓜

想象一下,假如你有一天接到一个电话,电话那头传来你老板的声音,他向你下达了一系列指令,比如说汇款、转账,你是否会遵从呢?

如果声音真的和自己的老板一模一样,向来绝大多数人都不会有所怀疑吧。但是殊不知,声音是可以伪造的!就在今年,有骗子就利用了AI语音合成技术,骗走了173万巨款!

据《华尔街日报》报道,有 犯罪分子通过商业化的人工智能语音生成软件,成功模仿冒充一家英国能源公司的德国母公司 CEO,让下属转账汇款,一天之内,就成功骗到手220,000 欧元(约合 173 万元人民币)!

那些受骗的员工纷纷表示,他们真的以为电话那头就是自己的老板!声音就是一毛一样!

听到这起案件,不得不让我们心生忧虑——这样的事情,会发生在我们身边吗?

其实现在的语音技术已经很成熟了。前段时间,“乔碧萝殿下”事件刷爆了整个朋友圈,一个58岁大妈在直播平台伪装成18岁少女,用的就是“变声器”,利用这个工具,你可以任意转换自己的声音,大妈变萝莉、大叔变萝莉,都不成问题。

更进一步,声音不仅可以伪装,还可以捏造。模仿明星声音的技术已经被广泛应用了,而克隆普通人的声音也已经成为现实。去年,三名蒙特利尔大学博士联合创办的名为“琴鸟”(Lyrebird)的公司开发出了一种“语音合成”技术,只需1分钟目标人物的音频样本,就可以克隆一个人的声音,想说什么就能说什么。而谷歌的研究论文,则指出未来的样本时间可能只需5秒钟。

这真是太可怕了!也许未来我们的声音可以被任何人克隆滥用。想象一下,假如骗子能够利用我们的声音,伪装成我们,给家里人或者同事朋友打电话要求转账汇款,那么有多少人能识破这样的骗局呢?

都说“眼见为实、耳听为虚。”但是现在,眼见也未必为实!

此前,网上就流传着这样几段视频,把明星的脸安到别的明星身上,杨幂变朱茵、鹿晗变小龙女,这样的换脸真的是毫无违和感!

杨幂朱茵换脸

鹿晗版小龙女

看了这些视频,不仅有人感叹,有了这项技术,现在这些小鲜肉明星也不用追求什么演技了,只需“出卖”自己的脸,让那些演技高的实力派代劳,事后把脸一换就大功告成了!

但是,既然在任何场景都可以切换 ,自然有一些心怀不轨的人,将明星的脸换到一些黄色视频上。

比如神奇女侠盖尔·加朵就曾经中招。

更有一些高智商但心怀不轨的人,开发了“AI脱衣”这样的软件。只要你提交一张女性照片,就能自动“脱掉”她的衣服,生成裸照!

网上流传的这些明星照片,一眼看过去是不是真假难辨?

面对这类事情,很多人都是抱着“吃瓜群众”的心态去看待的,但你有没有想过,这样的事情也可能会发生在你身上?毕竟AI技术这么发达,想换谁的脸都可以。

目前,通过换脸技术制作黄色视频,已经形成了一条灰色产业链。成品视频价格从2元1部到30元46部、100元150部和100元200部不等,一般都是打包售卖。据说,这种地下生意现在很是火爆,甚至供不应求。

可怕的是,一旦你遇到这样的事情,就根本没有办法去制止。假如对方用这个来敲诈你,也许你能(在支付一笔巨款之后)要求对方删除源文件,但你无法阻止视频的传播,毕竟互联网技术这么发达,想彻底删除一件东西实在是太难了。如果你的同事、朋友看到这段视频,他们会怎样看待你?难道你能向所有认识你或者你认识的人,一一解释这段视频是假的,并能让他们信服吗?

这些年,因为在酒店被偷拍视频、流传到网上,给当事人带来巨大心理压力,从而陷入抑郁、走上绝路的人实在是太多了。足以见得这种视频被公开的杀伤力,然而AI技术,却能让你没有干过的事情也能凭空出现、大肆流传。

显然,用AI技术换脸的用途,远非这一种而已。骗子伪装成你的脸,可以干任何事,偷走你的财产、诈骗你的朋友、借高利贷……事后,你跳进黄河也很难洗得清。

最可怕的是,假如这种技术不止应用于普通人,还应用到重要的公众人物身上,那这个世界可就真的乱套了。

前段时间,奥巴马就“说出了”一段他自己从未说过的话。

特朗普也中枪了。图中的用户自己做出了扭曲的表情,然后换成特朗普的脸,也做出了一模一样的表情

在这些公众人物一句话就能够引发全球世界大地震的情况下,我们无法预估AI技术被滥用的杀伤力。更为可怕的是,公众人物他们曝光的次数要更多,这也就意味着他们用来训练AI的素材也就更多、伪装成他们的效果也会更加逼真。

想象一下,假如有一天,我们看到的“脸”,听到的“声音”,都不再是真实的;你可以不再成为你自己,而他人也可以“替代”你,这个世界还有什么真实、什么信任可言呢?

这段时间被疯狂刷屏,而又被突然整顿的换脸APP“ZAO”已经充分地提醒了我们,这样的事情,已经离我们并不遥远!

技术,从来都是把双刃剑。技术有多强大、它的杀伤力就有多强大。AI技术一旦滥用,其造成的破坏力是难以估量的。因此,对新技术的监管亟需进行,以法律的红线、监管的利剑来明确技术的底线。

但我们必须要承认,政策规制的制定涉及方方面面,必将是一个漫长的过程。在这之前,能保护我们的,只有我们自己,想要避免我们免受技术的侵害,我们必须要做到以下几点:

首先,要像鸟儿爱惜羽毛一样珍惜自己的个人数据。在通过“语音”“刷脸”就可以开门、可以支付的今天,要像不要泄露你的银行卡账户密码一样,随随便便就把你的个人信息外传了。

其次,在涉及到钱的事情一定要万分小心。要通过多种方式确认身份之后才能转账,而且即使要转账,也最好向对方的银行账户转账,避免通过微信等社交软件转账。一方面有利于核实对方身份,另一方面也有助于跟进转账信息。

最后,请把这篇文章转发给爱你和你爱的人,我们无法凭借一己之力遏制人性之恶,但至少可以最大程度保全自己免受侵害。返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
免费获取
今日搜狐热点
今日推荐