游客发表

视频“变脸”相似度达80%!“AI换脸诱骗”若何提防?

发帖时间:2024-11-08 23:57:10

原问题:视频“变脸”相似度达80%!变脸“AI换脸诱骗”若何提防 ?

最近,视频视频网站上经由家养智能换脸,度达《亮剑》里的换脸主角用英语飙起了台词,经由小挨次用户也可能将自己酿成片子里的诱骗人物。新技术带来悲痛的若何同时 ,也带来了一种名为“AI换脸诱骗”的提防新骗术 。前不久 ,变脸国家金融把守规画总局北京监管局公设提防“AI换脸”等新型敲诈本领的视频危害揭示 ,这种骗术若何防 ?一起关注——

青岛的度达一位大学生以及他在网上意见的“女同伙”视频谈天,对于方称需要资金周转,换脸男孩打钱以前之后 ,诱骗发现居然被诱骗了 。若何

深圳安络科技市场部司理 梁雅婷 :咱们经由取证发现着实跟他谈天的提防并非他的女同伙 ,对于方是变脸经由伪造的摄像头,而后经由AI换脸的功能跟他妨碍谈天。

那末AI若何做到在视频通话时换脸呢 ?记者在一家为公安机关提供技术反对于的科技公司看到的演示,相似度可能抵达80% 。

深圳安络科技产物部司理 刘远洋 :适才咱们拍了一张照片,而后上传到电脑下面 ,咱们惟独要掀开软件抉择头像,右侧已经看到咱们的图片,右侧是当时拍好的一段视频。工程师已经把所有的参数都已经设定好了,咱们惟独要点击开始实施 ,输入要保存的文件名 ,这个窗口弹进去当时,换脸视频就已经开始天生为了 。

咱们在现场看到 ,一个高配置装备部署的电脑 ,分解一段10秒的换脸视频惟独要一两分钟。而技术的睁开 ,视频谈天的实时变脸也不是难事了 。

深圳安络科技产物部司理 刘远洋:照片上传后 ,艰深就会有30秒钟摆布的光阴 ,比力片妨碍特色识别 ,而后妨碍建模 。建模坏当时就能妨碍实时转换 ,不论是你的头像 ,仍是在同伙圈的一张小照片 ,惟独是照片都可能直接上传,妨碍特色的识别建模。

AI天生的技术还在不断地更新迭代 ,好比性此社替换,声音的变更,都可能同步妨碍 。由于算法是开源的 ,也便是说一个艰深的工程师就能制作出一个变脸软件,这就导致咱们在操作源头上带来了极大的难题。

AI换脸用于诱骗 反诈也有新本领

不断迭代的AI技术 ,已经把换脸视频做到“虚实难辨” ,那末咱们理当若何提防此类新型诱骗呢 ?

首先,当初视频换脸的技术上也不是自作拆穿的,视频相同时的一些措施,就能发现倾向 。

深圳安络科技副总裁 肖坚炜  :在这个操作中,假如我用此外第三个图像去干扰它  ,好比让他用手捂脸 、动一动,就会干扰到图像的分解。从这里演示看,我把手放下来之后,会清晰地看到屏幕上咱们共事的眼睛在发抖了 ,鼻子在发抖了 ,我的手已经消逝了,嘴巴也消逝了 。

除了让对于方在面部做出一些措施来分说,专家介绍,AI分解软件的降级可能是飞速的 ,假如措施捉拿已经被避开,那末咱们就需要经由一些更业余的软件来分说了 。

深圳安络科技副总裁 肖坚炜 :咱们可能经由软件来识别,好比人的全部概况 ,交流的眼睛 、鼻子、嘴巴这里,它的像素巨细是纷比方样的  ,颜色的色域是有差距的。像咱们的衣服同样,要打一个补钉 ,是没措施做到欠缺的。这些咱们眼睛肉眼看不进去  ,可是软件算法是可能检测进去的 。

当初,这种分说软件对于配置装备部署以及周边的要求也比力高,运用起来并不普遍。不外  ,让视频转达的网站概况社交软件 ,运用业余的分说软件来判断 ,再打上“AI制作”的标签,在现阶段不失为一个措施。

提防“AI换脸诱骗”,巨匠还要增强对于人脸、声纹、步态 、指纹等生物特色数据的清静防护 。

中国科技大学公共事件学院 、收集空间清静学院教授 左晓栋 :在运用互联网效率概况在社会生涯中,要求输入人脸等生物特色数据的时候,咱们要看一看,对于方群集咱们的生物特色数据是否适宜数据清静法,总体信息呵护法的要求  ,是否正当 、公祥以及需要。

此外,国家也在经由多重本领提防“AI换脸诱骗” ,近两年,相关部份先后出台了互联网信息效率深度分解规画纪律,天生式家养智能效率规画暂行措施等无关政策文件 。先后睁开了“互联网深度分解算法存案”“狂语言模子算法存案”等无关使命。严酷侵略运用AI换脸、变声等本领实施的违法立功行动。

中国科技大学公共事件学院 收集空间清静学院教授 左晓栋:当初看来开始妨碍了滥用家养智能技术 。特意是处置违法立功的这些势头,部份规画下场开始展现,而且也有力增长了家养智能技术的尺度睁开 。返回搜狐,魔难更多

责任编纂:

平台申明 :该文意见仅代表作者自己,搜狐号系信息宣告平台,搜狐仅提供信息存储空间效率 。

    热门排行

    友情链接