近日，联合国在瑞士日内瓦召开全球AI for Good（人工智能向善）峰会。蚂蚁集团技术战略与发展部副总经理彭晋受邀分享中国在金融场景中对抗“深度伪造”的技术成果，同时披露蚂蚁数科服务的东南亚银行伪造人脸攻击频率已从高峰期的10%大幅击退至4%，识别准确率保持在99.9%，可为全球AI安全治理提供可复用的”中国方案”。
蚂蚁集团技术战略与发展部副总经理彭晋在AI for Good峰会分享中国技术成果
全球AI for Good人工智能向善峰会由联合国下属国际电信联盟（ITU）与40多个联合国姊妹机构合作举办，并与瑞士政府共同承办。大会旨在推动人工智能促进健康、气候、性别、包容性繁荣、可持续基础设施和其他全球发展优先事项。
随着生成式AI工具的普及应用，全球范围内利用“AI换脸”进行欺诈的恶性事件屡见不鲜，尤其在金融机构的用户注册、交易等环节，身份伪造可能导致银行、支付平台错误判断，带来直接经济损失。据彭晋介绍，2024年，东南亚银行的Deepfake（深度伪造）攻击率，在高峰时期达到了10%，即每100次人脸验证中有10次为虚假人脸。在蚂蚁数科的产品技术支持下，其服务的东南亚银行Deepfake攻击率已击退至4%。这些银行用户身份认证的拦截率从原本50%降低至3%。业务提效的同时，识别准确率保持在99.9%。同时，彭晋表示，人脸识别算法攻防是一个与黑产对抗博弈的过程，算法依然需要以“天”为单位不断更新，来对抗及预判新型的伪造手法。
据介绍，目前金融机构面临的主流“换脸欺诈”方式包括两大类，一类是呈现式攻击，即在相机前呈现虚假图像以绕过活体检测。另一类是注入式攻击，即从系统层面破解相机，注入预录图像/视频以替换相机捕获的面部画面。蚂蚁数科旗下ZOLOZ可提供金融级的身份安全认证服务，在设备端实施环境安全检测，在应用端利用动态深度学习模型精准识别活体特征，并建立了完善的业务风控策略，有效抵御各类攻击。目前，ZOLOZ的相关技术产品已经服务全球超25个国家和地区，助力海外数字化发展。
此前，蚂蚁数科在全球人工智能顶会IJCAI2025开放超过180万多模态深度伪造数据集，共涵盖88种伪造技术，推动行业开展可验证、可追溯的AI安全研究。
