计算机生成的“深度伪造”图像,乍一看与真实照片一模一样。目前,研究人员正在利用天文学技术来帮助确定图像的真实性——使用通常用于调查遥远星系的方法分析人脸图像,可以测量一个人的眼睛如何反射光,从而发现图像处理的迹象。
深度造假的图像和视频可以用来传播错误信息。图片来源:Stu Gray/Alamy
?
近日,在英国皇家天文学会举办的国家天文学会议上,英国赫尔大学数据明升体育app、人工智能和建模卓越中心主任Kevin Pimbblet介绍了这项研究。
“这不是一个灵丹妙药,因为我们确实有假阳性和假阴性。”Pimbblet 说,“但这项研究提供了一种潜在的方法和一个重要的前进方向,也许可以增加一系列测试,以尝试找出图像是真的还是假的。”
人工智能(AI)的进步使得区分真实图像、视频和音频与算法生成的图像、视频、音频变得越来越困难。深度伪造技术将一个人或环境的特征替换为另一个人或环境的特征,专家警告称,这可以被武器化,并用于传播错误信息,例如在选举期间。
Pimbblet解释说,真实的照片应该具有“一致的物理特性”,“所以你在左眼球中看到的反射应该与在右眼球中见到的反射非常相似,尽管不一定完全相同”。这些差异是微妙的,因此为了检测它们,研究人员转向了旨在分析天文图像中的光的技术。
这项尚未发表的工作构成了Adejumoke Owolabi硕士论文的基础。Owolabi是英国赫尔大学的数据明升体育app家,他从Flickr Faces HQ 数据集中获取真实图像,并使用图像生成器创建了假面孔。随后,他又使用CAS系统和基尼指数这两种天文测量方法分析了图像中眼睛里的光源反射。CAS系统量化物体光分布的集中度、不对称性和平滑度;基尼指数衡量的是星系图像中光分布的不平等。
通过比较个人眼球中的光反射,Owolabi可以在大约70%的情况下正确预测图像是否为假的。最终,研究人员发现,基尼指数在预测图像是否被篡改方面优于CAS系统。
但美国加州大学圣克鲁斯分校的天体物理学家Brant Robertson警告说:“如果你能计算出一个量化深度伪造图像逼真程度的指标,你也可以通过优化该指标来训练人工智能模型,以产生更好的深度伪造。”
英国南安普敦大学的人工智能研究员黄志武(音)表示,他自己的研究还没有发现深度伪造图像中眼睛里不一致的光线模式。但他表示,虽然使用眼球中不一致反射的具体技术可能不适用,但这些技术可能有助于分析图像不同部分的照明、阴影和反射中的微妙异常。“检测光物理性质的不一致性可能会补充现有的方法,并提高深度伪造检测的整体准确性。”
版权声明:凡本网注明“来源:明升官网明升体育app报、明升手机版(明升官网)、明升体育app手机版杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、明升头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。