根据麦肯锡研究所的数据，基于AI的身份欺诈已成为美国增长最快的金融犯罪类型，并且在全球范围内呈上升趋势。英国GDG的研究表明，英国有超过860万人使用虚假或他人的身份来获取商品、服务或信贷。
美国财政部近日发布在一份题为《金融服务业中特定于人工智能的托管网络安全风险》的报告中强调，AI的发展使网络犯罪分子更容易使用深度伪造来冒充金融机构的客户并访问账户。报告说，“生成式人工智能可以帮助现有的威胁行为者开发和试验更复杂的恶意软件，为他们提供以前只有资源最丰富的行为者才能使用的复杂攻击能力。它还可以帮助技能较低的威胁行为者开发简单但有效的攻击”。另据德勤的数据，91% 的网络攻击都是从网络钓鱼电子邮件开始的。
毫无疑问，在当今的数字环境中，AI已经改变了身份欺诈的性质。在主流情况下，AI对数字信任和诚信构成重大威胁，并有可能破坏客户与金融机构之间的关系。
攻击者常利用五类AI攻击手段
AI 为所有威胁行为者提供了新工具，攻击者正在使用 AI 来瞄准员工、创建网络钓鱼电子邮件、冒充供应链合作伙伴，现在还为视频会议创建深度伪造的首席财务官。顶象防御云业务安全中心分析发现，攻击者基于AI如下5种类型，进行伪造数字身份、信用卡盗窃、伪造文件等金融欺诈。
1、AI克隆语音进行电话诈骗。攻击者模仿公司高管或同事的声音，要求受害人转账或提供账号密码，可能导致企业资金被盗或者敏感信息泄露，造成企业财务损失和声誉受损。
2、AI换脸进行网络会议、视频通话。攻击者通过伪造的身份进行远程商务会议或视频通话，要求受害人转账或提供账号密码，可能导致个人或企业的资金被盗，涉及重大合同或交易的信息泄露，进而影响商业利益和声誉。
3、AI生成的虚假金融网站、山寨金融APP。受害者可能因误以为访问的是合法金融机构网站或APP，而提供个人银行账户信息或信用卡信息，从而导致资金被盗或者身份被盗用，造成巨额财务损失和信用危机。
4、AI生成增强的网络钓鱼电子邮件。攻击者利用AI生成更加逼真的电子邮件内容，更容易骗取受害者的信任，例如仿冒合法机构的邮件，要求受害者点击恶意链接或下载附件，从而泄露敏感信息或者控制受害者的电脑，进而导致财务损失。
5、AI生成虚假图文和视频。虚假的金融信息可能在社交媒体、新闻网站等平台上广泛传播，误导消费者购买虚假理财产品或保险，从而导致投资损失或者购买了没有保障的虚假保险，进而遭受重大财务损失。
这些欺诈手段带来的金融风险是极其严重的，利用了人们对于身份认知和信息真实性的信任，从而导致了资金损失和个人信息泄露等问题。
金融机构的防御措施
《“AI换脸”威胁研究与安全策略》 情报专刊认为，要防范打击AI欺诈，一方面需要有效识别检测出AI伪造的内容，另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策，更需要复杂的心理战和公众安全意识的提升。因此，企业需要加强数字身份识别、审查账号的访问权限，对数据收集最小化收集等。同时，加强员工关于如何发现AI威胁。
1、基于AI防范针对业务的欺诈活动。AI可以监控和分析从供应商交互到付款的各个方面的流程，实时提供风险评估和信任评分，并发出警报以警示潜在的欺诈行为，同时无缝地集成到当前流程中。AI还能够自动监控和分析大量的交易数据，使人类调查人员能够更专注于实际的欺诈事件。这种自动化可以减少人工工作量，降低错误和欺诈的可能性，并保证更快的响应时间。通过实时分析收到的发票、新的供应商请求、电子邮件、文件和银行对账单，AI可以帮助预防欺诈，并检测异常的通信模式、付款细节和文件结构。
2、搭建多渠道全场景多阶段防护的安全体系。顶象最新升级的反欺诈技术与安全产品，能够为企业搭建一个多渠道全场景多阶段的安全体系，系统对抗AI带来新威胁，这其中包含保障App安全的App加固，防范AI的恶意注册与登录的无感验证，识别AI伪造的设备的设备指纹，挖掘潜在欺诈威胁、防范AI复杂攻击的Dinsight实时风控，拦截“AI换脸”攻击的全链路全景式人脸安全威胁感知方案等。通过多渠道全场景多阶段的安全体系，基于威胁感知、安全防护、数据沉淀、模型建设、策略共享等安全服务，能够满足不同业务场景，拥有各行业策略且能够基于自身业务特点实现沉淀和更迭演进，实现平台的精准防控，从而快速有效地应对 AI 攻击，进行个性化防护。
3、加强身份验证与保护。包括启用多重身份验证、对静态和传输中的数据进行加密以及实施防火墙等。对账号异地登录、更换设备、更换手机号、休眠账户突然活跃等加强频繁验证，持久性检查以确保用户的身份在使用期间保持一致。对设备信息、地理位置以及行为操作进行比对识别，能够发现并防范异常操作。
4、加强账号授权控制。基于最小权限原则限制对敏感系统和账户的访问，确保访问其角色所需的资源，从而减少账户被盗用的潜在影响，防止未经授权访问您的系统和数据。
5、持续了解最新技术与威胁。尽可能随时了解 AI 技术的最新发展，以相应地调整保障措施。对 AI 模型的持续研究、开发和更新对于在日益复杂的安全形势中保持领先地位至关重要。
6、持续对员工进行安全教育培训。持续进行 AI 技术及其相关风险的培训，通过模拟攻击、漏洞挖掘、安全培训等，帮助员工识别和避免 AI 攻击和其他社会工程风险，保持警惕并快速报告异常情况，显著提高组织检测和响应深度伪造威胁的能力。
要防范基于AI的威胁，一方面需要有效识别检测出AI威胁，另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策，更需要复杂的心理战和公众安全意识的提升。
