蚂蚁要消灭“AI换脸”的隐患

作者 | 刘宝丹

编辑 | 周智宇

AI技术在推动社会进步的同时，带来不少安全隐患。蚂蚁则希望用自家技术，杜绝这些隐患。

4 月 16 日，蚂蚁数科旗下科技品牌ZOLOZ发布了新产品ZOLOZ Deeper，这是一款深度伪造（Deepfake）综合防控产品，解决的是日益增长的AI安全隐患问题。

该产品已率先应用在身份安全领域。通过全链路安全技术，帮助用户规避在刷脸认证场景中的“AI 换脸”风险。

ZOLOZ Deeper的推出是蚂蚁数科发力安全科技的关键一步。也是蚂蚁数科启动独立化运营之后的第一款身份防御产品，标志着蚂蚁数科要在安全领域“掘金”。

所谓深度伪造，指的是基于深度学习算法，从大量的视频和图像数据中学习，伪造出逼真的面部动画和语音。近年来，全球Deepfake事件呈10倍速度激增，北美、亚太地区等地已经成为 Deepfake 攻击的重灾区。

这对安全科技提出了新的挑战。中国信通院人工智能研究中心安全与元宇宙部主任石霖指出，随着深度学习算法不断优化和创新，Deepfake带来的安全风险和隐私侵犯问题愈加严峻，且生成的内容越来越难以区分真伪。

同时，这也意味着，身份安全领域正在孕育着巨大的市场需求。安全科技是蚂蚁数科的关键技术布局，旗下蚁盾、ZOLOZ 分别瞄准产业风控安全和身份安全领域提供技术方案，目前已经成为数科高速增长的引擎。

尤其，ZOLOZ以生物识别技术见长，历经支付宝App等大规模场景验证，核心产品囊括可信身份认证、反洗钱、终端安全等，为中国、印尼等14个国家和地区的70余家合作伙伴提供技术服务。

ZOLOZ产品总监陶冶对华尔街见闻表示，ZOLOZ Deeper之所以能够快速推出，一方面源于本身的经验积累，另一方面也是基于在不断攻防过程中，在技术上有较多的演练。

具体来看，ZOLOZ Deeper搭建了端云一体的全链路技术体系，以应对系统、服务器、应用等多环节的Deepfake安全威胁，比如，在用户操作过程中，深度学习模型可以捕捉微表情、肌肉纹理等细微特征。

攻防演练主要依赖于蚂蚁集团的天玑实验室，GAN模型会生成超30万测试样本，交给 ZOLOZ Deeper 进行判别训练，每个月还会对其进行超过20000次的攻防测评，模拟上百种伪造攻击情况。

值得一提的是，ZOLOZ 联合蚂蚁安全响应中心（AntSRC）设立了超百万的奖金池，支持安全极客来挖掘 ZOLOZ Deeper 的漏洞。

ZOLOZ Deeper能否打响第一战还需要在时间中验证。可以确定的是，人工智能技术发展越快，其潜藏的技术风险也越大，这场关于反深伪的技术竞赛，也许才刚刚开始。

上月，蚂蚁集团董事长兼CEO井贤栋宣布新一轮组织架构升级，作为创新业务，蚂蚁数科成立董事会，蚂蚁集团CTO倪行军任职蚂蚁数科董事长，赵闻飙任蚂蚁数科 CEO。未来，蚂蚁数科将独立面向市场实现商业化运营。

赵闻飙有深厚的安全基因及20多年的风险管理经验，他认为，安全科技不仅是数字化发展的“压舱石”，更是“助燃剂”。这也意味着安全科技能够在未来蚂蚁数科的业务版图中，起到更大作用，并体现在营收、利润上。

蚂蚁数科也随之进入新的发展阶段。