AI诈骗成功率100%？防深伪模型“用魔法打败魔法”
2023-05-26 15:49:39
来源：光明网
日前，一条AI诈骗成功率接近100%#的话题冲上微博热搜。一个AI换脸的视频，让福建某科技公司的法人代表在10分钟内就被骗走了430万。 国外也发生了一起AI相关诈骗，一封附上谷歌CEO视频的邮件，让不少YouTube博主们下载了带着危险病毒的文件。 这两起诈骗事件都有着深度伪造技术deepfake的身影。这是一项诞生了6年之久的换脸大法，如今AIGC技术的大爆发，更使得制作难以识别的deepfake视频越来越容易。对人脸识别应用普遍的金融行业来说，防深伪攻击也显得尤为重要。 在金融行业，由deepfake产生的欺诈主要是身份欺诈，即通过深度伪造的虚假图像和视频来冒充他人身份，骗过金融信贷流程中的身份核验系统，进而实施盗刷和恶意注册等。目前，金融行业应对deepfake已有了比较成熟的技术方法和方案，度小满在deepfake应对方法上就积累了丰富的经验。 度小满介绍，近年来利用深伪技术绕过人脸识别流程的趋势有所增长，对金融机构实名认证系统造成了一定的威胁。而要识别认证内容是否造假，最好的办法是交给AI去解决，研发“反deepfake”检测算法。据了解，度小满防深伪检测模型的算法策略就从三个维度入手，有效破解造假视频。 首先是生成瑕疵。具体而言，由于相关训练数据的缺失，deepfake模型可能无法正确渲染部分人类面部特征，小到眨眼频率不正常，大到口型与声音不吻合等。检测模型则能将这些“基本肉眼可见”的特征都提取出来，设计特定的分析算子，从而进行分析研判。  其次是固有属性。由于不同摄像机拥有不同的设备指纹，类似GAN这种模型在生成人脸时也会留下独特的用于识别生成器的指纹，因此经过对比就能发现端倪。  第三个细节是高层语义。它指的是检测面部动作单元(肌肉群)协调性、面部各区域朝向一致性、视频微观连续性等方面的问题，由于这些细节建模困难、难以复制，很容易抓到把柄。  当然，由于单一特征难以适应复杂的deepfake内容，因此检测模型的整体框架采用的是多特征融合，以此来保证决策的鲁棒性。 在数据样本优势之外，度小满还融入了自己的独创点，包括神经网络搜索调优算法、微表情分析和图卷积(GCN)技术以及基于重建的自监督预训练方法，让模型实现了从“鉴伪”到“鉴真”的转变。 也正因此，去年9月度小满防深伪检测模型顺利通过了信通院人脸识别安全专项评测，获得活体检测安全防护能力优秀级认证。具体效果上，它可以覆盖各种深伪形式，包含静态人像图片活化、AI换脸、人脸虚假合成等，达到千分之一误报率下召回90%以上，也就是99%+的准确率。 随着新的deepfake工具不断涌现，金融行业要应对的深伪攻击会更多。度小满认为，未来更多的鉴伪技术应该集中去挖掘语义特征、跨模态特征等，让模型利用可解释性强的高层语义去鉴伪。 |
免责声明：本站资讯来源于网络及第三方会员发布，本网系信息发布平台，仅提供信息存储空间服务。有关任何重要信息都要严格注意核对，谨慎防止金融诈骗，投资骗局，理财陷阱。本站提供的资讯，及用户发布的内容仅供信息传递及资讯分享之目的，并不能理解为我们认可，支持，验证该信息，资讯，观点。有关资金来往，贵金属交易，外汇保证金交易，差价合约交易以及其他金融类交易投资都要严格核实。我们建议您在进行相关重要步骤前，请咨询专业的投资顾问或者金融法律人士。任何浏览用户据此操作视作本人自行决定并自己承担此决定所产生的所有风险。
热点推荐
热门排行
