全球知名权威科技刊物《麻省理工科技评论(MIT)》最新发布报告显示,数字经济时代,以“Deepfake”为代表的深度换脸技术更加智能化和高度真实化。当前,深度伪造技术被非法用于经济、政治、社会等领域,形成严重危害,深度伪造检测面临更大挑战。研究发现,相比传统防伪技术,来自中国的马上消费技术团队的防伪大模型,已成为大模型时代深度防伪新机遇。
2025年,AI深度伪造很可能成为“全球首要风险”。今年年初世界经济论坛发布《2024年全球风险报告》预测,AI生成的错误信息和虚假信息被列为“未来两年全球十大风险”之首,其会使本就两极分化、冲突频发的全球形势进一步恶化。
马上消费人工智能研究院院长陆全近期表示,Sora无疑是技术领域的一次重大突破,但也会降低AI伪造门槛,潜在引发Deepfake等黑色产业链滋生蔓延。防伪大模型为金融黑产提供了先进武器。据测算,2023年,国内黑产欺诈引发的经济损失达1149亿元,金融业务欺诈金额达75亿元,国家监管机构持续预警,金融机构声誉严重受损,金融客户合法权益不时受到侵害。
聚焦到金融行业,Deepfake主要构成身份欺诈,即通过深度伪造的虚假图像和视频来冒充他人,骗过金融信贷流程中的身份核验系统,进而实施盗刷、恶意注册等。得益于防伪大模型的技术突破,金融行业目前对Deepfake有了比较成熟的解决方案。
一方面,源于Chain of thought 思维链技术。防伪大模型拥有前所未有的编码能力,通过编码进行概念延申和推理,充分掌握图片细节所蕴含的内在信息。在关于图像输入的因果推理能力的测试中,Gemini Pro和 GPT-4 在未经过防伪专项增强时,能够对伪造人脸指出其毛发、皮肤、背景等诸多细节问题,如“福尔摩斯”一般,这代表大模型对图片理解能力的显著提升。
另一方面,Scaling law 规模效应显现。防伪大模型具有大模型的一般特点,即数据的有效增长可以促进模型能力的同步提升。随着深度伪造数据的积累和录入,防伪大模型的域外能力在显著增强,这种增强相较于传统专家模型是数以百倍的提升。
马上消费技术专家认为,防伪大模型构建顶级的多模态生物核验与防伪平台,具有巨大潜力和实用价值,不仅提升了安全性和效率,还为千行百业的发展和用户体验带来了积极变化。同时,马上消费已将防伪大模型引入日常风控反欺诈管理流程中,呈现迭代周期短、拦截性能强、可解释性强等特性,大幅提升用户体验,实现了人机协同的金融防伪新应用模式。
