视频“变脸”相似度达80%!“AI换脸诱骗”若何提防?

 人参与 | 时间:2024-11-14 11:20:26

原问题 :视频“变脸”相似度达80% !变脸“AI换脸诱骗”若何提防?

最近 ,视频视频网站上经由家养智能换脸 ,度达《亮剑》里的换脸主角用英语飙起了台词,经由小挨次用户也可能将自己酿成片子里的诱骗人物。新技术带来悲痛的若何同时 ,也带来了一种名为“AI换脸诱骗”的提防新骗术 。前不久 ,变脸国家金融把守规画总局北京监管局公设提防“AI换脸”等新型敲诈本领的视频危害揭示,这种骗术若何防?一起关注——

青岛的度达一位大学生以及他在网上意见的“女同伙”视频谈天,对于方称需要资金周转,换脸男孩打钱以前之后 ,诱骗发现居然被诱骗了 。若何

深圳安络科技市场部司理 梁雅婷 :咱们经由取证发现着实跟他谈天的提防并非他的女同伙 ,对于方是变脸经由伪造的摄像头,而后经由AI换脸的功能跟他妨碍谈天。

那末AI若何做到在视频通话时换脸呢  ?记者在一家为公安机关提供技术反对于的科技公司看到的演示,相似度可能抵达80%。

深圳安络科技产物部司理 刘远洋 :适才咱们拍了一张照片,而后上传到电脑下面 ,咱们惟独要掀开软件抉择头像 ,右侧已经看到咱们的图片 ,右侧是当时拍好的一段视频。工程师已经把所有的参数都已经设定好了,咱们惟独要点击开始实施 ,输入要保存的文件名 ,这个窗口弹进去当时,换脸视频就已经开始天生为了 。

咱们在现场看到  ,一个高配置装备部署的电脑 ,分解一段10秒的换脸视频惟独要一两分钟  。而技术的睁开,视频谈天的实时变脸也不是难事了。

深圳安络科技产物部司理 刘远洋:照片上传后 ,艰深就会有30秒钟摆布的光阴,比力片妨碍特色识别,而后妨碍建模。建模坏当时就能妨碍实时转换,不论是你的头像 ,仍是在同伙圈的一张小照片 ,惟独是照片都可能直接上传,妨碍特色的识别建模 。

AI天生的技术还在不断地更新迭代,好比性此社替换,声音的变更 ,都可能同步妨碍。由于算法是开源的,也便是说一个艰深的工程师就能制作出一个变脸软件,这就导致咱们在操作源头上带来了极大的难题 。

AI换脸用于诱骗 反诈也有新本领

不断迭代的AI技术,已经把换脸视频做到“虚实难辨” ,那末咱们理当若何提防此类新型诱骗呢 ?

首先,当初视频换脸的技术上也不是自作拆穿的,视频相同时的一些措施,就能发现倾向。

深圳安络科技副总裁 肖坚炜 :在这个操作中 ,假如我用此外第三个图像去干扰它 ,好比让他用手捂脸、动一动,就会干扰到图像的分解。从这里演示看  ,我把手放下来之后,会清晰地看到屏幕上咱们共事的眼睛在发抖了,鼻子在发抖了,我的手已经消逝了 ,嘴巴也消逝了。

除了让对于方在面部做出一些措施来分说,专家介绍,AI分解软件的降级可能是飞速的 ,假如措施捉拿已经被避开,那末咱们就需要经由一些更业余的软件来分说了。

深圳安络科技副总裁 肖坚炜 :咱们可能经由软件来识别,好比人的全部概况 ,交流的眼睛、鼻子 、嘴巴这里 ,它的像素巨细是纷比方样的 ,颜色的色域是有差距的 。像咱们的衣服同样,要打一个补钉,是没措施做到欠缺的 。这些咱们眼睛肉眼看不进去,可是软件算法是可能检测进去的 。

当初  ,这种分说软件对于配置装备部署以及周边的要求也比力高 ,运用起来并不普遍 。不外,让视频转达的网站概况社交软件 ,运用业余的分说软件来判断 ,再打上“AI制作”的标签,在现阶段不失为一个措施。

提防“AI换脸诱骗” ,巨匠还要增强对于人脸  、声纹 、步态、指纹等生物特色数据的清静防护 。

中国科技大学公共事件学院、收集空间清静学院教授 左晓栋 :在运用互联网效率概况在社会生涯中 ,要求输入人脸等生物特色数据的时候,咱们要看一看 ,对于方群集咱们的生物特色数据是否适宜数据清静法,总体信息呵护法的要求 ,是否正当、公祥以及需要 。

此外,国家也在经由多重本领提防“AI换脸诱骗” ,近两年 ,相关部份先后出台了互联网信息效率深度分解规画纪律,天生式家养智能效率规画暂行措施等无关政策文件。先后睁开了“互联网深度分解算法存案”“狂语言模子算法存案”等无关使命。严酷侵略运用AI换脸 、变声等本领实施的违法立功行动 。

中国科技大学公共事件学院 收集空间清静学院教授 左晓栋:当初看来开始妨碍了滥用家养智能技术。特意是处置违法立功的这些势头 ,部份规画下场开始展现,而且也有力增长了家养智能技术的尺度睁开 。返回搜狐,魔难更多

责任编纂 :

平台申明 :该文意见仅代表作者自己 ,搜狐号系信息宣告平台 ,搜狐仅提供信息存储空间效率。 顶: 2656踩: 6836