“AI换脸”等新型犯罪多发 国家反诈App推出“鉴假”神器

随着新技术快速发展，当前，“AI换脸”“深度伪造”等新型技术犯罪时有发生。公安机关将如何应对？公安部刑事侦查局局长姜国利在今天上午举行的国新办新闻发布会上介绍，公安机关在国家反诈中心App上布建了人工智能内容鉴定功能，大家可以上传可疑视频、语音、图片，一键检测是否存在人工智能生成痕迹，鉴别伪造信息。

姜国利介绍，当前，利用人工智能实施的新型犯罪主要表现在利用人工智能技术伪造身份，侵入政企信息系统，对他人信息和财产实施盗窃；还有伪装成熟人、权威人士，骗取受害者的信任以后实施诈骗；以及利用人工智能工具，生成网络谣言，扰乱社会公共秩序。公安机关全力打击上述违法犯罪，同时严厉打击提供技术支撑的犯罪团伙，努力从根源上铲除犯罪土壤。今年上半年，共侦办利用人工智能工具生成网络谣言案件170余起，依法查处190余人。

公安机关通过开展智能预警，提高防范能力。依托大数据分析，搭建风险研判模型，对高频陌生视频通话、静默录音来电、短时间多次调取人脸素材、境外发起的视频请求等新型诈骗手法，进行综合研判分析，形成精准预警指令和线索，推送各地公安机关开展预警劝阻工作。

此外，公安部联合网信办、工信部、国家广电总局发布《人工智能生成合成内容标识办法》，规范内容标识，向公众提示人工智能合成内容。同时，加强监督检查，针对人工智能大模型可能存在的安全风险开展重点监测，并通报运营主体，及时消除隐患。据介绍，今年上半年，共开展人工智能应用服务监督检查600余次，对相关服务提供者进行警告、责令整改、关停等行政执法30余次。

同时，公安机关积极推进《网络犯罪防治法》等法律法规立法进程，完善人工智能风险治理法律规范体系；研究构建人工智能安全审查制度，防范此类服务被滥用于实施违法犯罪；研究制定人工智能代码生成、深度合成图像等领域的安全标准，不断推进和完善人工智能安全标准体系建设。