一款 AI 换脸 APP 忽然火爆全网!凭借“仅需一张照片,出演天下好戏”,迅速收割了百万下载量,一跃成为App Store全站排行榜第7位。用户只需要在 APP 中上传一张照片,就能将自己的脸替换成影视剧里的主角形象,几乎可以以假乱真。
这场普通用户近距离感受AI强大能力的狂欢,仅仅持续了不到半天就急转直下,在这个处处需要刷脸的时代,“脸”存在被泄露风险的恐慌浇灭了所有拥抱技术的热情。
“我的第一直觉,AI 换脸技术引发的连锁反应是有巨大风险的。在金融领域被广泛使用的人脸生物识别,刷脸支付都会有出现风险的可能,换脸视频作为伪造证据也可能会被非法分子利用,这些后果都是无法想象的。”作为在业务风控领域深耕四年的数美科技的CTO,梁堃一看到这个技术应用,就在工作群里表达了自己的担忧。
24小时之后,梁堃宣布,数美科技换脸识别产品正式研发上线,“业务风控是我们的专业领域,尽快研发出针对风险行为的识别产品是我们的使命。”
“失控”的AI换脸技术
AI换脸技术的核心是一个“自动编码器”,这个“自动编码器”实际上是一个深度神经网络,它能够接收数据输入,并将其压缩成一个小的编码,然后从这个编码中重新生成原始的输入数据。
换脸技术并不是一种新技术,在影视剧制作中早已有之。不过早期影视剧制作中的换脸需要剪辑师和CG(电脑三维动画)专家长时间的复杂工作,所以并不具有推广普及的基础。
但是AI换脸出现的时间却并不长,2017年12月,一位叫Deep Fakes的人把情色电影里的女主角换成了好莱坞明星盖尔·加朵,这是人们第一次公开见识到AI换脸这项技术。
“Deep Fakes”技术背后的来源是一种名为 GAN(生成式对抗网络)的 AI 模型,它在 2014 年 10 月由前谷歌著名神级技术大咖 Ian Good Fellow 发布的一篇 GAN 论文而奠定了地位,GAN 是当前人工智能学界一个最热门的研究方向。
然而这项技术,很快就失控了。大量受害者进行了投诉。
连Facebook首席执行官马克•扎克伯格都成为了受害人。他的一段被篡改过的视频浮出水面,在视频中他对该公司的用户数据隐私提出了质疑。
受害者的名单不断增多,艾玛·沃特森、斯嘉丽·约翰逊等多位好莱坞女星躺枪,被换脸成成人电影女主角,无故陷入“艳照门”事件。部分初创企业、美国政府机构和学术界都在与所谓的“Deep Fakes”作斗争,他们担心被篡改的视频和照片会被用来扰乱明年的美国总统选举。
“脸”不安全 钱也可能不安全
换脸技术会不会用于制作虚假视频,比如假扮公众人物的演讲,伪造诉讼证据,伪造暧昧、甚至通奸视频进行敲诈勒索,伪造不在证据,伪造身份进行网络诈骗?
在一系列对虚假视频的担心之外,中国普通民众担心最多的是,如果“脸”不安全,“钱”也将面临莫大风险。毕竟中国的互联网支付远远领先于全球其他国家。
当前,大部分银行等金融机构开设了人脸识别登陆APP功能,“刷脸”支付甚至是远程签约等场景也越来越多见。微博上有网友担忧:“非法收集面部信息”、“万一哪天被黑客把数据库给拿走了,你的支付宝分分钟可以被盗刷,你们自己看着吧。”
中国的两大互联网支付巨头很快做出了响应,“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。支付宝称,即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。
然而刷脸支付的核心场景是各大商场的人脸支付,这种情况下不需要接触APP,单纯脸对摄像头,只要用视频让摄像头认为是真人即可,是不是能够避免被盗刷还是个问号。
AI换脸识别用技术防御风险
据媒体报道,目前 AI 换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。
“风控技术要迅速响应,才能防御风险行为带来的用户损失。”带着这样的使命感,CTO梁堃迅速调动团队,第一时间推出了AI换脸识别产品,识别哪些视频采用了AI换脸。
“数美科技的AI换脸识别产品,是基于人脸检测技术、人脸特征提取技术、以及针对人脸识别场景优化后的XceptionNet网络,通过视频多帧综合识别,通常只需要10秒包含目标人物的视频,就可快速精准识别视频内容是否通过AI换脸技术伪造而成。”梁堃说。
数美科技的AI换脸识别模型能够自动提取人脸关键点、脸部边缘、人脸朝向等重要特征,这些特征帮助模型在视频识别上的准确率达到90%以上,有效防范各种利用AI换脸视频实施诈骗的行为。
在梁堃看来,数美科技作为人工智能领域的解决方案专家,将持续致力于发挥专业优势,帮助客户防御业务风险,保障平台内容安全,保护公民肖像权、名誉权,维护健康、纯净的互联网环境。
