当前位置:主页 > 商务访谈 >科学家想用老鼠判别Deepfake製作的影片,但这事没那幺容 >

科学家想用老鼠判别Deepfake製作的影片,但这事没那幺容

   科学家想用老鼠判别Deepfake製作的影片,但这事没那幺容

自从 Deepfake 技术面世以来,就一直朝着不可控的方向发展。


从开始被用在小电影给女明星换脸,到美国总统川普、Facebook CEO 祖克柏等公众人物相继成为 Deepfake 技术的受害者,再到「一键脱衣」的 App「DeepNude」,Deepfake 技术带来的负面影响愈加明显。


更令人担心的是,Deepfake 技术还在不断进化。史丹佛等几所学校之前发布的一项研究甚至能篡改影片的语句,只要输入任意文本,就能让影片中的演讲者说出对应的话,比如将电视台主持人报导的「苹果股价收盘于 191.45 美元」的数字改为「182.25 美元」。

科学家想用老鼠判别Deepfake製作的影片,但这事没那幺容

儘管这两个词的发音和口型完全不同,但几乎看不出修改痕迹。研究者经过调查发现,59.6% 的受试者认为被修改过的影片是真的,这项技术成功骗过了大部分人的眼睛。


Deepfake 技术让网路世界变得更加真假难辨,与此同时不少科学家和机构也开始研发鉴别 Deepfake 的技术,开始了一场猫捉老鼠的游戏。


据《华尔街日报》报导,本週在拉斯维加斯举办的黑帽网路安全大会上,来自俄勒冈大学的研究人员提出,老鼠等小动物未来或有助于鉴别伪造的影片和音频。


研究人员发现,老鼠在辨识自然语音元素方面很有天分,能听出声音中的不规则性,比如透过训练能区分 P、B、T 等不同音素,以及不同母音发声的区别,进而辨识複杂的声音,并检测音频的真实性。


科学家将条件反射来训练小老鼠,让老鼠在听到真实和合成影片的时候分别跑向不同位置,如果辨识正确就给予奖励,在测试过程中老鼠辨识假音频的準确率达到 75%。


虽然当研究人员在添加一些新的声音和母音的等变量后,老鼠辨识的準确率有所下降,但在经过一段时间的训练后,还是能够区分新的语音模式。


该研究计画成员之一、俄勒冈大学研究生 Jonathan Saunders 认为,该技术还可以进一步优化,形成通用版本的 Deepfake 检测演算法,但这需要更深入了解大脑是如何分析和处理声音的。


儘管老鼠在听觉研究领域有着很大潜力,但这也不意味着社交平台和影像网站将来透过饲养大量的老鼠就能够鉴别 Deepfake 假影片。研究人员希望透过弄明白老鼠是如何辨识假音频,进而更好地训练机器来对抗 Deepfake 。


除了之外,目前很多研究团队都採用生成式对抗网路来鉴别 Deepfake ,以 AI 对抗 AI。


前不久,加州大学柏克莱分校和南加州大学的研究团队就开发了一套 AI 鉴别系统,先透过生成式对抗网络,提取川普、希拉蕊和欧巴马等人的脸部、头部运动特徵,合成假影片。

科学家想用老鼠判别Deepfake製作的影片,但这事没那幺容

随后再用机器学习分析真假影片的差异,进而得到每个人的「软性生物特徵」,辨识出细微的动作特徵,这种检测工具辨识 Deepfake 影片的準确率达到 95%,研究人员希望能在未来半年内提升至 99%

去年美国国防部研究机构 DAPRA 也研发出一个专门打假 Deepfake 的 AI 工具,抓住了 AI 生成的人脸缺乏眨眼功能的缺陷,透过检测眼睛状态判断影片的真假,準确率高达 99%。

科学家想用老鼠判别Deepfake製作的影片,但这事没那幺容

在原始影片中,在 6 秒内检测到眨眼动作。而 Deepfake 生成的假影片则没有眨眼。


遗憾的是,这套工具无法大规模地应用,研究人员正在试图开发出一款可扩展的平台化工具,能对网路上大量的影片进行鉴别。


不过这种利用 AI 对抗 AI 的鉴别方式也存在问题,因为生成式对抗网路的原理就是让两套神经网路在相互博弈中学习,随着鉴别技术的提升,假影片的品质也会进一步提高,两者永远处在不断的对抗当中,谁也无法彻底打败谁。


同时相比起 Deepfake 技术的研发,鉴别技术的科研力量显得有点势单力薄。据DeepTrace 平台统计,2018年,全球涉及 GAN 生成图像和影片的论文多达 902 篇,而研究如何辨识合成图像和影片的论文只有 25 篇。


加州大学柏克莱分校的电脑科学家 Hany Farid 也指出,目前研究合成影片和鉴别的人数是 100:1, Farid 认为依靠技术现有的鉴别技术难以阻止 Deepfake 影片在社交平台上传播:


相关文章