“想成功，先发疯，不顾一切向钱冲；拼一次，富三代，拼命才能不失败！”
这是正在热映的反诈骗电影《孤注一掷》中，诈骗团伙每天“诈”前动员的口号。
从电影回到现实。数据显示，2022年，全国公安机关破获电信网络诈骗犯罪案件46.4万起，缉捕电信网络诈骗犯罪集团头目和骨干351名，成效显著。
电信诈骗日益猖獗的背后，是诈骗手段逐渐向智能化、组织化、集团化发展的缩影。今年以来，多起利用AI（人工智能）技术实施的诈骗引发大众关注。据公安部日前召开的新闻发布会透露，依托“净网”专项行动，公安机关已破获“AI换脸”诈骗案件79起，抓获犯罪嫌疑人515名。
不难发现，越来越多的不法分子试图搭上AI发展的“技术快车”，威胁着人民的“钱袋子”。
AI诈骗是啥？简单来说，它是利用人工智能技术实施诈骗的新型诈骗手段。虽然听起来不可捉摸，但大体表现为以下几种形式。
形式一：声音克隆。不法分子通过拨打骚扰电话来提取对方的声音，接着对音频素材进行处理，然后用伪造的声音实施诈骗；还有一种方式，则是不法分子在盗取微信、QQ号之后，使用特殊的语音插件，转发之前的语音，从而获取信任。
形式二：AI换脸。和声音合成相比，这种形式更具有欺骗性。不法分子根据收集来的照片和视频生成与目标对象相似的面容，然后给受害人拨打视频电话，以假乱真。
其实，利用AI技术进行音视频合成对大众来说并不陌生。早在前几年，网络上就已经出现了换脸软件。许多不法分子利用AI换脸技术伪造明星的淫秽视频，在网络上传播并获利。由于换声、换脸的技术门槛逐渐变低，越来越多的不法分子对AI技术动起了歪心思。
形式三：定制专属脚本。有人说：“骗子最擅长的，往往不是设计精巧到无懈可击的陷阱，而是充分利用人性的弱点。”不法分子在实施诈骗之前，会通过AI技术搜集各类信息，并根据要实施的骗术对人群进行筛选、分类。
找到目标对象之后，诈骗团队会快速生成诈骗脚本，实施“一对一”精准诈骗。比如，在“杀猪盘”婚恋陷阱中，不法分子就充分利用受害人渴望爱情、缺乏安全感的心理，每天嘘寒问暖、输出浪漫情话，让受害者在甜言蜜语中逐渐卸下防备，从而骗取钱财。
总而言之，AI诈骗的花招越来越多，而反诈骗的难度也越来越大。
AI诈骗为何变得这么厉害？
AI诈骗是在人工智能生成内容（AI-Generated Content）和深度伪造（Deepfake）技术发展的背景下产生的。毫无疑问，技术的发展为AI诈骗提供了更多的可能。
从普及范围看，AI技术正在走向大众化。如今，AI技术逐渐普及，正成为一场“全民狂欢”。在手机应用市场，以“AI”作为关键词进行搜索，ChatAi、FacePlay等多款运用AI技术的APP映入眼帘；在B站上，用户只要搜索关键词就能获得大量的开源代码和教学视频；在“AI换脸”小程序上，只需要选择心仪的视频模板，再上传一张自己的正脸照片，就可以实现一秒“换头”。
“杨幂版黄蓉”就是一个很好的例子。早在2019年，就有人利用AI技术把1994版《射雕英雄传》里朱茵饰演的黄蓉换成了杨幂的脸。有网友评价：“杨幂版的黄蓉灵动可爱、毫无违和感，一点也不输给原版角色。”
从技术水准看，AI技术不断更新迭代。随着声音、图像处理技术和人工智能算法的不断升级，利用AI技术合成的音视频质量也得到大幅度提升。如今，AI合成语音不仅可以模仿受害人的语调，甚至还能模仿其口音特征。愈发接近“真实”的AI换脸在诈骗中以假乱真，令人傻傻分不清楚，增加了反诈骗的难度。
从应用情况看，AI技术滥用充斥着网络。在电商直播间，众多“迪丽热巴”“刘亦菲”大喊着“321，上链接！”。AI换脸已经形成了灰色产业链，AI代包服务充斥着市场，“只要钱到位，你想换成谁就换成谁”。
当下，AI技术快速普及，不法分子也无孔不入，纷纷为电信诈骗披上AI“马甲”。这类型诈骗主要是利用受害者的社会关系展开，往往充分掌握了受害者个人的身份信息以及与被换脸对象的社会关系，综合作案。比如，不法分子利用熟人关系、领导下属关系等，拿捏了受害人“不好意思拒绝”的心理实施诈骗，令人防不胜防。
此外，因为缺乏判断力、与社会接触较少，老年人等特殊群体也往往成为不法分子的重点“关照对象”。在去年的热播剧《猎罪图鉴》中，就曾出现犯罪分子利用AI换脸技术，伪装成空巢老人的儿子实施诈骗，最终导致两位老人跳海自杀的剧情。
由于AI诈骗具有链条化、平台化、高成本等特征，目前尚未形成爆发态势。但AI诈骗案件已频频出现，风险正快速积聚，对公民的信息和财产安全造成严重威胁。
面对来势汹汹的AI诈骗，该怎么办？
完善制度，划出AI技术应用的“边界”。近两年，我国出台了《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》，对AI诈骗起到了一定的约束作用；8月8日，国家互联网信息办公室公布《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，旨在提升人脸识别技术的规范应用与合规水平。而国家网信办已审议通过的《生成式人工智能服务管理暂行办法》，也将于8月15日起开始施行。由此看来，我国在相关领域的规定正在逐步完善。只有让监管跟上技术发展的“脚步”，AI技术才能沿着法治的轨道行稳致远。
升级技术，用“善AI”对抗“恶AI”。公安机关和网信部门除了要做好信息安全知识的普及工作，加强隐私保护教育，指导公众下载“国家反诈中心”APP之外，还要加强AI诈骗的反制技术研究，与不法分子在AI技术应用的赛场上“赛跑”。比如，可将AI技术应用于诈骗预警、嫌疑人识别等环节中，“用魔法打败魔法”。
保护隐私，铲除AI诈骗滋生的“土壤”。隐私数据是AI诈骗的源头。个人要加强信息保护意识，不随意点击陌生链接、下载陌生软件；不在社交平台上过度分享图片、视频；在使用AI技术进行工作、娱乐时，要谨慎对待，做自己隐私保护的第一责任人。
做“细节控”，擦亮防诈识骗的慧眼。除了要保护好个人的隐私数据，大家在进行语音、视频通话时，更要擦亮慧眼。虽然AI诈骗生成的音视频已经相当逼真，但仍会存在一些细节上的瑕疵。
比如，有些合成的人像瞳孔呆滞、眉毛僵硬、身体比例不协调等，可通过这些细节来核验对方身份，用肉眼识破“科技脸”。同时，不能抱侥幸心理，“永远不要觉得自己不会被骗，只是适合你的剧本还没有出现。”
打击诈骗违法犯罪，任重而道远。和其他诈骗形式相比，AI诈骗预防和侦破的难度都更大，尤其需要在常态化和长效化上下功夫。归根结底，不管AI诈骗如何改头换面，仍改不了其“骗”的本质。未来，AI诈骗的手段或许会更加高明，但只要我们强化反诈骗意识，合力筑牢反诈骗防线，就能够让“天下无诈”成为现实。
想要做大模型训练、AIGC落地应用、使用最新AI工具和学习AI课程的朋友，扫下方二维码加入我们人工智能交流群
