点击上方“带你游遍英国”
点右上角“...”点选“设为星标”
点击加星★每天看国外事儿
近日,媒体报道了美国宾夕法尼亚州一起利用AI换脸技术诽谤他人的案件——
在当地的Bucks县,有着一个名叫“VictoryVipers”的啦啦队训练基地,
这个创立于2013年的基地,在整个州里有着很不错的口碑,他们专门招揽10-20岁的漂亮女孩儿进来训练啦啦操,然后到各地去进行表演。
今年17岁的Madi Hine就是这个啦啦队训练营的其中一员,她也非常热爱这一行当,
就在2020年6月的一天,正如往常一般准备参加训练的Madi突然收到了一条匿名短信,
结果这一点开,里边儿的内容是差点儿没让她惊掉了下巴——
先是一堆十分难听的粗口,下面还附上了好几张污秽不堪的裸照,
而且当她定睛一看时,发现这些裸照上的主角分明就是她自己!
虽然Madi心里很清楚自己绝对没有拍过这种照片,可这些裸照看上去实在是太逼真了,
于是生怕解释不清楚的她,便偷偷把这条短信给删掉了,
然而没想到的是,她在接下来一个月的每一天都会收到这种短信——
在这些照片和视频里,“Madi”有时正十分享受地抽着电子烟设备,有时甚至还在拍着AV...
即便明知是假的,但这看上去完全就跟真的一样,
而且还是估计给自己妈妈看了都分不清的那种,要是泄露出去可就麻烦了!
再也受不了这种心理压力的Madi终于是绷不住了,躲到车上大哭了一通:
“我很清楚那些照片和视频里的不是我,但就算我说了也没人会相信我!”
接着还没等她想好怎么向妈妈说出这件事儿时,基地的老板就先一步找上了她的妈妈JenniferHine,
原来老板同样也收到了那样的短信,所以才找到了家长进行质问,
事情被披露出来后,忍了许久的Madi又委屈地大哭了一场,把那个月里收到的所有短信都给妈妈看了,
而且这里边儿还包含着不少让她自杀的内容——“你怎么不去死啊!”
心疼女儿的Jennifer立马把此事向警察进行了报告,经过调查后发现基地里还有好几个女孩儿也受到了类似的短信,
这个匿名发送者还专门把短信发给了基地的老板和教练看,似乎是想抹黑女孩儿们的名声好把她们赶出基地!
随后经过警方请来专家进行分析,这是通过将女孩儿们po在社交媒体上的照片映射到其他图像上而创建出来的假影像!
之所以能做到这一点,其实是用到了一项名叫“deepfake”的技术,
这是一种通过AI深度学习技术伪造影像和声音,合成出足以媲美真实人脸的全新人脸图像及视频的技术。
后来,经过专业人员的一番IP地址追踪,警方最终是锁定了嫌疑人是隔壁镇上的Raffaela Spone!
Raffaela也有着一位在这个营地里训练的女儿,据说这个女儿曾被包括Madi在内的几位女同学排斥,
于是当时护女心切的Raffaela便制作了那些裸照对她们进行威胁,如今她因此要面临三项骚扰罪的指控!
平时咱们常用的PS单纯只是图像的改动,但deepfake则是把提供五官的脸进行变形然后改变为一张新脸的技术,
由于变形后会产生无数种可能,所以需要大量的计算以找到变得准确的方式,
不过在近年来全世界开发者合作对此的努力优化下,如今这项换脸技术已经越来越成熟,
不仅对复杂场景的支持变得更加容易,而且模型训练的速度也变得更快了,在个人定制电影及短视频创作等领域都有大量的应用!
毕竟要是没有经过专业图像分析的话,这种合成图片和视频甚至能达到以假乱真的效果!
这不,前不久就有人利用deepfake技术冒充阿汤哥在Tiktok上吸了不少粉——
曾在2月25日时,一个名为@deeptomcruise的账号开始发布一些阿汤哥的视频片段,
视频中的“阿汤哥”有时是在打高尔夫...
有时还会给观众表演魔术...
而且他在每段视频中都会发出标志性的狂笑,即便人物动作和脸部朝向变化很大都看不出什么明显的瑕疵,
搞得大家难辨真假,甚至都有网友认为这就是阿汤哥本人故意这么做来逗观众的,
不过最后这人还是被认出来并不是真的阿汤哥,可这一账号在短时间内就已经积累了二十多万名粉丝!
目前Tiktok官方并没有发表上传使用deepfaks技术的视频是否违反服务条款,但有不少用户已经感觉到了事情的严重性...
随着deepfake技术的逐渐成熟,如今它的使用门槛也在不断地降低,
这背后便埋下了一定的社会隐患,导致人们对这项技术的评价非常两极化,
有人觉得这将开启一个电影新时代,但也有人认为心怀不轨者会利用它来进行“犯罪”!
因为和之前利用deepfake技术将色情动作片中主人公P上自己梦中情人的样貌相比,现在这一问题已经上升到了国家安全层面,
因此不少国家的管理层无法再对此坐视不理,甚至曾有议员建议立法进行打击——
早在2019年时,著名社交网络服务网站Linkedln出现了一位名叫Katie Jones的美女名片,
这位资料里写明年龄为30岁的职业女郎,似乎已经融入了华盛顿的政治舞台,
在顶级智库中工作的她拥有着一批由专家和权威人士组成的关系网,而且还和一位有望加入美联储的美国国务卿副助理Paul Winfree有着联系,
照这样看来,她显然是个颜值与实力并存且前途无限量的女强人,
然而万万没想到的是,后来这名女郎竟然被证实并不存在,而那只是潜伏在Linkedln网站上的大量虚假个人资料之一!
查看过Katie在Linkedln上资料的专家表示,这是这家专业社交网站上典型的间谍活动!
要知道,作为一个全球范围的名片展示平台,Linkedln对间谍有着强烈的吸引力!
毕竟跟其它专注于朋友及家人关系网的社交软件不同,Linkedln主要面向求职者和猎头,
其用户经常会投递简历及建立庞大的关系网,还会向陌生人传送文件,
这种将所有人连接起来的方法有助于填补该网站上的数百万个职位空缺,但同时也为间谍们提供了“狩猎场”般的作用!
根据美国国家反间谍和安全中心主任WilliamEvanina表示,外国间谍就经常会通过在Linkedln上伪造社交媒体资料来锁定一些美国高级人物目标...
在发生了这件事儿后,美国民主党众议员Adam Schiff在众议院情报委员会听证会上发出警告,
他认为由deepfake技术生成的视频,很可能会对2020年美国总统大选产生灾难性的影响,
于是他要求国会考虑修改《通信规范法》条例以规定对合理审核做法的豁免权,并建议所有由AI生成的视频都必须打上标记!
虽然不知道Adam的这一建议最后是否有被采纳,不过纽约州立大学布法罗分校那边儿倒是传来了好消息——
该校的计算机科学家发明了一种专门分辨deepfake制图的检测工具,识别成功率高达94%!
这一工具的关键点就是“眼睛”,其原理大概是这样儿的:
“当我们看着某物时,所看到的图像就会反映在眼睛中,
因此在真实的照片或视频中,人两只眼睛上的反射通常看起来都是相似的形状和颜色,
但是由AI生成的大多数图像都无法准确或始终如一地做到这一点,这可能是由于许多照片组合在一起生成了虚假图像所致!”
deepfake技术将来到底会如何改变我们生活尚未可知,但这确实是一个值得深思的问题啊...