随着AI技术的不断发展，AI成为网络诈骗的新工具。不法分子深度伪造技术，进行“AI拟声”“AI换脸”，融合他人面孔和声音制作虚假图像和音视频，制作虚假身份，仿冒他人身份实施诱骗受害者转账等犯罪行为。这类诈骗方式变化多样、难以分辨，消费者容易落入骗局。毫无疑问，在当今的数字环境中，AI已经改变了身份欺诈的性质。
内蒙古鄂尔多斯市居民李女士近日遭遇了一起新型电信网络诈骗案。诈骗团伙利用“AI换脸”技术，合成了与李女士老同学相似的视频通话，以此作为诈骗的关键手段，成功骗取李女士信任。
“618”年中大促结束，直播电商背后的虚假繁荣问题逐渐浮出水面。不少消费者反映，直播间的“人气好物”实际质量堪忧，一些直播间利用工具刷流量和好评，制造虚假繁荣的假象，误导消费者购买。
电商购物节不仅是消费者的饕餮盛宴，也是黑灰产的牟利蜜糖。一方面，在618年中大促这样的活动中，为了避免影响客户体验以及业务系统稳定，很多电商平台会降低业务安全灵敏度，对部分风控规则放开。另一方面，黑灰产会使用一些新的欺诈手段，以更隐蔽复杂的方式发动攻击，谋取最大化利益。
随着618网购节的开启，各大电商平台的直播间再次成为消费者关注的焦点。在5月20日的一场酒水电商直播中，主播仅用43分钟便实现了成交额破亿，售出3万瓶白酒。然而，这些“秒杀”特价商品却成为一些“羊毛党”批量“进货”的渠道。他们潜入直播间，利用非法外挂软件抢购“秒杀”“限购”的商品，然后加价转售，牟取巨额利润。
近日，国家市场监督管理总局公布《网络反不正当竞争暂行规定》 ，自2024年9月1日起施行。《网络反不正当竞争暂行规定》是为预防和制止网络不正当竞争行为，维护公平竞争的市场秩序，鼓励创新，保护经营者和消费者的合法权益，促进数字经济规范持续健康发展。
2023年，杭州中院审结了两起涉及“搬店软件”的不正当竞争案件。本案的原告是国内某大型知名电子商务平台的运营主体，而被告则是开发了一款名为“某搬家快速商品上货批量发布”的复制软件，被控非法获取平台商品信息并在其他服务市场销售。
“仅退款”服务已成为各大电商平台的“标配”。然而，以“薅羊毛”的方式谋取不当利益，给商家造成了经济和声誉上的双重损失，引发了广泛关注和争议。
青岛市人民检察院在其官方微信公众号上发布的梁某保险诈骗案显示，2020 年以来，某汽修厂负责人梁某、某汽车服务公司负责人孙某，与保险公司的赵某等人相互勾结，收购二手北汽等品牌新能源汽车，并为这些车辆购买车损险。随后，他们利用暴雨天气，故意制造车辆水淹事故，然后由赵某出面指使保险公司定损员华某出具虚假的...
最近，英国《卫报》报道称，一些骗子正在利用人工智能照片编辑软件篡改照片，以进行保险欺诈活动。这一发现令保险公司震惊，因为这可能导致汽车保险费用飙升至历史最高水平。
2024年4月11日，国家金融监督管理总局官网发布国家金融监督管理总局关于《反保险欺诈工作办法（征求意见稿）》公开征求意见的公告。
2024年3月，北京警方打掉一个故意制造事故实施骗保的专业保险诈骗犯罪团伙。此案中，某保险公司在职员工与离职员工、定点汽修厂内外勾连，通过虚构、故意制造车辆事故或对事故扩损等手段骗取理赔款。不久前，辽宁警方也破获一起自导自演伪造车祸骗保的案件，10名犯罪嫌疑人被依法采取刑事强制措施。
国内某知名短视频平台报警称，有人在网络上售卖一款视频搬运软件，使用软件的人可以绕过平台的审核机制，一键“搬运”窃取他人作品非法转载投稿。警方调查发现，在这背后是一条违法犯罪的产业链条，犯罪团伙的上游开发制作非法软件，通过更改短视频平台的代码，逃避平台监管。
保险欺诈一直是保险行业面临的重要挑战之一，尤其随着技术的进步，欺诈者也在不断更新其手段，利用AI技术，包括生成式模型、机器学习和数据分析工具等欺骗保险公司，而AI技术的应用正成为他们的新工具，使其犯罪行为更加隐蔽和复杂，挑战保险行业的防欺诈措施。
汽车保险欺诈是一种涉及各种计划的大范围犯罪，包括在保单信息中虚报信息以获得更低的保费，或者故意制造事故以获得更高的索赔赔付。
今年早些时候，年仅 20 岁的乌克兰网红奥尔加·洛耶克（Olga Loiek）在网上遭遇了一群 AI 生成的克隆人。“我真的被吓坏了，我看到我的脸在用中文推销商品，”她向媒体表示。这些在社交媒体平台上销售产品的主播，其脸和声音均是通过 AI 换脸技术生成的，他们将自己描述为在中国的外国人，销售着外国的土特产。
根据麦肯锡研究所的数据，基于AI的身份欺诈已成为美国增长最快的金融犯罪类型，并且在全球范围内呈上升趋势。英国GDG的研究表明，英国有超过860万人使用虚假或他人的身份来获取商品、服务或信贷。
AI换脸，也称为“深度伪造”（Deepfake），是一种利用人工智能技术将人脸替换到另一个人的脸部上的技术。“深度伪造”技术涉及多种技术和算法，可以生成非常逼真的图像或视频。将“深度伪造”的虚假内容与真实信息的元素拼凑在一起，就可以用于可以伪造身份、传播错误信息、制作虚假数字内容，进行各类欺诈。
2022年7月，美国联邦调查局互联网犯罪投诉中心（IC3）发布了一份新的公告，该公告警告说，越来越多的诈骗分子正在使用“深度伪造”技术在远程职位面试中冒充求职者，骗取企业薪资、盗取企业的商业机密。
2023年12月6日，美国佛罗里达州迈阿密派恩克雷斯特湾学院（Pinecrest Cove Academy）的两名学生被停学。几天后的12月22日，他们被迈阿密戴德警察局逮捕。并被指控犯有三级重罪，罪名是涉嫌制作同学的“深度伪造”裸照。
