蚂蚁数科发布ZOLOZ Deeper，抵御Deepfake风险的新一代综合防控产品
今年1月底，美国著名歌手Taylor Swift泰勒·斯威夫特（霉霉）的一组AI不雅照片在网络上疯传。该图片在禁封之前被浏览了4700万次。毫无疑问，此举无论是对于霉霉本人的伤害还是社会影响，都是非常大的。
近年来，随着AI的发展，AI换脸技术愈发强大，不少人甚至会用AI换脸去犯罪，这也给很多用户带来安全风险。而在AI换脸的背后，也引出了深度伪造（Deepfake）这个概念。“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。
那这类风险可以如何规避，也成为了不少企业思考的问题。4月16日，蚂蚁数科旗下深度伪造（Deepfake）综合防控产品ZOLOZ Deeper发布，这款产品主要是以拦截用户刷脸过程中的“AI换脸”风险。
据悉，ZOLOZ Deeper 搭建了端云一体的全链路技术体系，以应对系统、服务器、应用等多环节的 Deepfake 安全威胁。前端通过精密的传感器校验与多维特征动态风控，对摄像头状态、设备及网络环境、输入图像等进行严格审查，确保软硬件环境安全无风险，采集到的生物特征数据真实无篡改；在用户操作过程中，运用深度学习模型对用户面部动态进行细致入微的分析，捕捉微表情、肌肉纹理、眼神流转等细微特征，精准判断其是否为真人实时互动。
过去几年，Deepfake 对于安全的威胁无处不在，最典型的便是电信诈骗。“利用人工智能合成的音视频来实时换脸或者是来进行电信诈骗行为，现在相关问题也是越来越多。虽然技术只是其中的一环，但是Deepfake在里边也扮演了非常重要的角色。此外，模仿明星唱歌的现象，可能涉及侵犯著作权。”中国信通院人工智能研究中心安全与元宇宙部主任石霖说到。
为了防范Deepfake所带来的安全风险，蚂蚁集团天玑实验室会通过GAN模型生成超 30 万测试样本，交给 ZOLOZ Deeper 进行判别训练，每个月还会对其进行超过20000次的攻防测评，模拟上百种伪造攻击情况。
在发布会现场，ZOLOZ 产品总监陶冶也提到，AIGC深度防伪的模式叫活化，它是基于一个人脸的一张照片或者一段视频、一段声音，就可以模拟更多种的动作。作为普通人，如果要防范Deepfake带来的风险，也有一些小方法。“举个例子如果跟AI换脸的人视频，可以在旁边比个耶，因为我们现在的技术是很难继续去让这个手变得很完整，或者说也可以按个鼻子，摆个动作，其实这些动作都可以进行防范。”
在刷脸支付时代来临之时，蚂蚁集团已经在思考风险防范的问题脸。据了解，ZOLOZ早在 2019 年就启动了 Deepfake 算法研发，彼时主要应对一些简单的人脸攻击，比如把图片、视频、面具等虚假内容呈现在摄像头前面，攻破人脸识别系统。ZOLOZ Deeper 是针对注入式、活化等复杂攻击手段迭代而来的产品。
从2018年开始， ZOLOZ 实人认证先后在中国香港 AlipayHK、菲律宾 GCash 上线后，ZOLOZ 国际化已经步入了第 7 个年头。ZOLOZ的可信身份认证能力已经成为多国金融APP的第一道“门禁”，服务着印尼最大银行Mandiri、马来西亚最大银行Maybank等金融机构，以及菲律宾GCash、泰国TrueMoney、马来西亚Touch'n Go、孟加拉国bkash、韩国kakao pay、巴基斯坦Easypasia、尼日利亚PalmPay等多国电子钱包在内的上百家合作伙伴。
此外，在发布会现场，陶冶表示：“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面。”为此，ZOLOZ 联合蚂蚁安全响应中心（AntSRC）设立了超百万的奖金池，支持安全极客来挖掘 ZOLOZ Deeper 的漏洞，通过“蚂蚁集团安全响应中心”官网提交漏洞情报。
