AI音频处理技术被不法分子用于实施诈骗 全国公安机关已开展专项排查

2024年3月至5月，全国11个省份公安机关接报多起利用AI音频处理技术伪造他人声音的诈骗案件，涉案累计金额达1218万元，对受骗群众财产造成损失，引发公众对AI音频处理技术滥用风险的关注。

公安部网络安全保卫局 2024年6月12日发布了情况通报，称不法分子多通过公开渠道获取目标人物的公开语音片段，再利用AI音频处理技术合成目标人物语音，以亲友突发疾病、需要周转资金为由诱导受害人转账。通报称已将AI音频处理技术滥用涉诈风险纳入全国网安领域专项排查，要求各地公安机关梳理汇总相关案件线索。

2024年6月20日，公安部网络安全保卫局再次发布情况通报。通报称截至2024年6月19日，各地公安机关共梳理核实相关案件47起，抓获涉案犯罪嫌疑人21名，累计为群众追回受骗资金327万元。通报显示，国内12家头部提供公开AI音频处理服务的平台已完成首轮风险排查，共关停违规提供匿名音频合成功能的账号1147个。

新华社记者 张浩然：记者实地走访12家提供公开AI音频处理服务的平台发现，已有10家平台上线用户身份核验机制，用户使用AI语音合成功能前，需要完成实名身份验证并填报使用用途。记者走访北京市朝阳区3个居民社区，共有17名接到过疑似AI合成语音诈骗电话的居民受访，其中12名居民表示已收到社区民警发放的防骗提示材料。

据中国互联网协会2023年12月发布的《生成式人工智能服务安全发展报告》统计，国内正规提供AI音频处理相关服务的机构共计132家，其中28%的机构在2023年底前未设置明确的使用权限核验规则。2023年7月，国家互联网信息办公室发布《生成式人工智能服务管理暂行办法》，明确要求生成式音频服务提供者应当落实信息安全主体责任，对服务使用者进行真实身份信息认证。

据公安部网络安全保卫局评估显示，当前国内AI音频处理技术滥用涉诈风险处于可控范围。该机构下一步将持续督促AI音频处理服务平台落实安全管控要求，配合各地公安机关开展防骗宣传，持续排查涉诈风险线索，保障公众财产安全。