为什么再火爆的AI换脸软件也活不过一周?
添加时间:2024-08-08 23:03:33
就在今天早上,腾讯阿里字节跳动等11家企业因为被有关部门约谈冲上热搜,与此同时进入公众视野的,还有深度伪造技术。
针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用,近日,国家互联网信息办公室、公安部指导各地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业,督促其按照相关法律法规及政策要求,认真开展安全评估,完善风险防控机制和措施,并对安全评估中发现的安全隐患及时采取有效整改措施,切实履行企业信息内容安全主体责任。
深度伪造技术你可能不太熟悉,但你一定知道最近超火的“蚂蚁呀嘿”搞笑视频。只需要上传一张正面照,就可以看巴菲特、球速体育官方入口小马哥、马云等一众大佬扭着脖子晃着头,一边唱洗脑神曲,截至3月5日,抖音“蚂蚁呀嘿”相关线万人使用。这款软件使用的AI换脸技术,就是深度伪造技术最常见的方式。
凭借魔性视频在社交软件上的火爆,AI换脸软件Avatarify下载量一举超越微信、抖音等APP,成为App Store免费榜榜首。但不到一个星期,Avatarify就被App store中国区下架了。
从技术角度来讲,不论是Avatarify还是ZAO,都来自更早以前的deepfake开源技术,依托大数据和人工智能深度学习机制,基于数据算法和人脸数据库,对既有视频或图片中的人物面部图像进行替换,它们获得的人脸数据越多,替换后的图像视频也就越逼真。
“深度伪造”技术的出现,对于电影、纪录片等艺术创作有着一定的积极意义,却也使得篡改或生成高度逼真且难以甄别的音视频内容成为可能。如果“深度伪造”技术的使用不加以限制,那么我们的日常生活会完全乱套。
对比陌陌2019年推出的换脸APP ZAO,2021年爆火的Avatarify,算法明显更进一步。现在的“深度伪造”技术,完全可以做到将照片活化。
照片活化意味着什么呢?我们都知道,在进行人脸识别认证的时候,安全系统会通过眨眼、张嘴等动作来分辨是不是本人操作,但是照片活化之后,这样的验证方法显然已经不能成为验证判断的依据了,我们的财产安全和隐私安全都将受到挑战。
有关部门和涉及“深度伪造”技术应用的互联网公司,需要付诸行动阻止这项技术的滥用,那我们普通人可以做些什么来保护自己呢?
首先,在使用AI换脸软件的时候,一定要仔细阅读用户协议,一旦发现有威胁到信息安全方面的内容,能不用就不用;其次是正面照,特别是身份证和证件照这种重要的照片,不要简单存储在手机相册里,可以锁进手机系统的加密相册里,也可以添加到坚果隐藏APP的私密相册里,加多几层保障。
个人信息是否值得保护,取决于别人能否通过这个信息识别到你。现在开始保护我们的“脸”,还为时未晚,赶紧行动起来!返回搜狐,查看更多