接到自称某短视频平台官方客服电话后，老人根据提示下载了一款App，然后银行卡里的十几万元被转走……不久前，甘肃省金昌市公安局金川分局侦破一起涉电信网络诈骗案件，揭开不法分子利用AI语音伪装官方客服诈骗的新套路。
业内专家表示，要多措并举，织密反诈防护网，防范新型AI语音电诈，更好保护群众财产安全。
一通“客服”电话骗走十几万元
“您好，检测到您的账号开通了直播会员，每月会自动扣费800元。”去年底，金昌市的王阿姨接到这样一通电话，对方自称某短视频平台官方客服，若要取消扣费需按其指引一步步操作。
由于的确开通过会员，加上来电语气和官方客服别无二致，王阿姨信以为真，通过对方发送的短信链接下载了一款App，并由对方远程操作，其间，手机黑屏十几秒。等手机恢复正常，她收到银行短信提醒，银行卡里的十几万元被转走。
意识到被骗，王阿姨立即报警。金昌市公安局金川分局刑事侦查大队民警高涛告诉记者，王阿姨的遭遇并非个例。“去年以来我们受理过的同类型案件超过10起，绝大多数是利用AI技术诈骗老年人。”
考虑到案件可能涉及省内外多地受害人，金昌市公安局金川分局成立专案组，经过近半个月侦查蹲守，成功抓获犯罪嫌疑人8名，现场查获涉案手机、银行卡、电脑等大量作案工具。
“截至目前，此案受害人已超20人，大多是老年人，来自全国各地。”高涛说，单人受骗金额从几万元到几十万元不等，涉案总额超300万元。目前，涉案犯罪嫌疑人已被依法采取刑事强制措施，案件仍在进一步办理中。
警方抓捕犯罪嫌疑人现场。（金昌市公安局金川分局供图）
多名办案民警表示，不少受害老人不愿主动报案。有的觉得被骗“丢脸”，有的担心被家人责怪、引发家庭矛盾，选择默默承受。
“82岁独居老人被‘假客服’骗走83万元养老钱”“六旬老人遭遇‘假客服’诈骗，银行卡超万元余额被转走”……记者梳理发现，去年以来，甘肃、江苏、山东等多地警方通报多起利用AI语音合成技术冒充官方客服诈骗老年人的案件。
传统电诈借助AI合成语音“升级”
受访民警表示，此类电诈是传统的假客服诈骗借助AI技术的升级版，与传统方式相比，这类新型骗局迷惑性更强，极易上当。
据警方介绍，不法分子通过非法渠道获取老年人个人信息，利用老年人防范意识薄弱、对数字技术辨别能力不足等特点，有针对性地进行诈骗。
记者了解到，部分网络平台存在个人信息非法买卖黑产链，姓名、手机号、常用App使用记录等在内的信息被明码标价、公开售卖，有的上千条打包出售，价格从几百元至几千元不等。
金昌市公安局金川分局刑事侦查大队教导员黄瑞介绍，不同于传统人工冒充客服诈骗案件，本案的诈骗手段利用了AI语音合成技术。诈骗分子获取正规平台客服公开语音素材后，使用AI语音克隆工具进行合成，几分钟即可生成高度逼真的客服语音，比人工假扮更自然、更规范、更难以分辨。
“诈骗分子通过AI合成语音，搭建虚拟拨号设备，批量拨打电话，一天能打上千个。”兰州市公安局刑侦支队副支队长李谦说，通话前段依靠AI合成语音，主要为“取消自动扣费”“退款理赔”等话术；骗取老人信任后，诈骗分子人工介入，诱导老人下载软件，诈骗分子远程操控手机进行转账，整个过程大概十几分钟。
黄瑞说，诈骗分子在操控受害人手机时，还会远程抹掉作案痕迹。一旦得手，迅速通过多层级、隐蔽化的洗钱手段转移资金，给追回损失带来难度。本案大部分受害老人的资金尚未追回。
记者在网络平台上搜索发现，免费和付费AI语音合成工具大量存在，部分商家宣称一键克隆真人语音，便宜的只要几十元。
“AI语音克隆、深度伪造工具获取成本极低，操作简单，造假逼真，被不法分子应用于电信诈骗，社会危害极大，需引起高度警惕。”甘肃省计算中心副主任沈玉琳说。
织密老年群体反诈防护网
受访人士表示，一段时间以来，滥用AI技术的新型涉老诈骗案件频发，作案手段升级，隐蔽性更强，严重侵害老年群体的财产安全与身心健康，亟需全链条、多维度防治打击，织密老年群体反诈防护网。
受访专家建议，从诈骗源头入手，从严打击个人信息非法买卖行为，重点整治医疗、养老、社区、金融等重点领域信息泄露问题，规范相关平台信息采集权限，畅通举报渠道。
“要加快升级AI伪造内容实时监测、溯源技术，加强网信、公安等部门与电信运营商、相关平台协作，排查监管盲区，严格规范AI工具使用。”北京师范大学中国教育与社会发展研究院助理研究员蒋艳双说。
针对取证难、追踪难等难点，甘肃政法大学民商经济法学院副教授盛玉华建议，进一步优化电子证据取证规则，完善相关法律法规，明确将利用AI技术实施涉老诈骗等情形列为从重处罚情节，强化司法惩戒威慑。
兰州大学管理学院副教授王洪鹏表示，要立足老年人认知特点和信息接收习惯，开展精准化、场景化、适老化反诈宣传，社区、家庭、子女联动，引导老人不轻信人言、不轻易转账，遇到可疑情况及时核实，提升老年群体反诈能力。
据了解，多家网络平台已发布提醒，不会通过境外电话、短信等途径告知扣款、续费等信息，不会要求用户下载软件或共享屏幕。民警提示，不扫不明二维码、不点陌生链接、不随意授权，“遭遇诈骗要第一时间报警，保存好通话记录、短信截图等相关证据”。（记者姜伟超、马莎）
