今年早些时候，年仅 20 岁的乌克兰网红奥尔加·洛耶克（Olga Loiek）在网上遭遇了一群 AI 生成的克隆人。“我真的被吓坏了，我看到我的脸在用中文推销商品，”她向媒体表示。这些在社交媒体平台上销售产品的主播，其脸和声音均是通过 AI 换脸技术生成的，他们将自己描述为在中国的外国人，销售着外国的土特产。
使用奥尔加肖像和声音的账号多达近百个，涵盖了国内的主流社交媒体平台，其粉丝数量从几千到几十万不等，其中一个虚假账户甚至吸引了 30 万粉丝。奥尔加称，自己的肖像可能被用于虚假宣传活动，成为造假者牟利赚钱的手段。
被盗的人脸成别人赚钱的主播
直播电商通常由主持人向其追随者展示一系列产品，而后他们可通过集成的购买按钮进行购买。尽管听起来略显俗气，但这些节目吸引了大量观众：去年通过直播商务销售的商品超过 1 万亿元人民币，现在中国有超过 100 万人担任直播主持人。
AI 克隆、换脸生成的虚拟网红完全可按照客户的需求制作，能够每天 24 小时不眠不休地进行直播，实现“日不落”的不间断工作，可帮助品牌在“非黄金时段”达到与真人主播相似的效果。而且，这些虚拟主播使品牌能够精确地控制其信息传递，确保一致的品牌代表和运营效率。相较于传统的网红合作伙伴关系，其潜在成本更低，不可预测性更低，耗费的成本也非常低。倘若没有奇葩问题的互动，数字人或许能一直不‘露馅’。
然而，这种创新的销售方式带来了诸多复杂的影响。更甚者，由此引发了技术的滥用，在未征得当事人同意的情况下，就进行肖像克隆并用于商业使用或诈骗。奥尔加·洛耶克的遭遇便是一个显著的例子。攻击者只需下载受害人在社交媒体上分享的照片、视频、音频、活动等，仅需 30 秒到 1 分钟的样本，就能制作出高度逼真的声音、形象，进而再造一个主播，进行视频直播。
调查发现，虚拟主播的制作极为简单，仅需一张照片便能实现克隆，最快仅需 60 秒。
顶象防御云业务安全情报中心发布的《“AI 换脸”威胁研究与安全策略》情报专刊指出，AI 欺诈泛滥的另一个主要因素是AI工具的可用性，这些工具使创建虚假视频图片变得更加容易。尤其随着网络犯罪即服务（Cybercrime as-a-Service）的出现，普通人也能够轻松购买到 AI 欺诈的服务或技术。攻击者利用社交媒体、电子邮件、远程会议、网络招聘、新闻资讯等一系列媒介，对企业和个人进行各类AI欺诈攻击。
个人怎么防范被盗用？
AI 带来的安全威胁也日益引发人们的关注，并迅速成为一种新的威胁手段，给企业和个人用户带来了前所未有的风险。
《“AI换脸”威胁研究与安全策略》 情报专刊认为，要防范打击AI欺诈，一方面需要有效识别检测出AI伪造的内容，另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策，更需要复杂的心理战和公众安全意识的提升。因此，企业需要加强数字身份识别、审查账号的访问权限，对数据收集最小化收集等。同时，加强员工关于如何发现AI威胁。
1、构建基于 AI 驱动的安全工具体系。基于人工审查与 AI 技术相结合的反欺诈系统，提高自动化和效率，检测和响应基于 AI 的网络攻击。
2、加强身份验证与保护。包括启用多重身份验证、对静态和传输中的数据进行加密以及实施防火墙等。对账号异地登录、更换设备、更换手机号、休眠账户突然活跃等加强频繁验证，持久性检查以确保用户的身份在使用期间保持一致。对设备信息、地理位置以及行为操作进行比对识别，能够发现并防范异常操作。
3、加强账号授权控制。基于最小权限原则限制对敏感系统和账户的访问，确保访问其角色所需的资源，从而减少账户被盗用的潜在影响，防止未经授权访问您的系统和数据。
4、持续了解最新技术与威胁。尽可能随时了解 AI 技术的最新发展，以相应地调整保障措施。对 AI 模型的持续研究、开发和更新对于在日益复杂的安全形势中保持领先地位至关重要。
5、减少社交媒体的敏感信息分享。减少或者杜绝在社交媒体上分享账户服务、家庭家人、交通出行、工作岗位等敏感信息，防范欺诈分子盗用下载后，进行图片和声音的伪造，而后进行身份伪造。
传统的安全工具和措施已无法有效防御基于AI带来的欺诈威胁，要及时识别欺诈风险，需要事前、事中、事后进行全面的风险防控。顶象最新升级的反欺诈技术与安全产品，能够为企业搭建一个多渠道全场景多阶段的安全体系，系统对抗AI带来新威胁，其中包含保障App安全的App加固，防范AI的恶意注册与登录的无感验证，识别AI伪造的设备的设备指纹，挖掘潜在欺诈威胁、防范AI复杂攻击的Dinsight实时风控，拦截“AI换脸”攻击的全链路全景式人脸安全威胁感知方案等。
通过多渠道全场景多阶段的安全体系，基于威胁感知、安全防护、数据沉淀、模型建设、策略共享等安全服务，能够满足不同业务场景，拥有各行业策略且能够基于自身业务特点实现沉淀和更迭演进，实现平台的精准防控，从而快速有效地应对 AI 攻击，进行个性化防护。
