【资料图】

“AI换脸换装”还有可能被刻意应用从事一些不法行为。在一起虚开增值税发票案中，嫌疑人为设立“空壳公司”来开票，在设立公司阶段，找人利用“AI换脸”技术对相关人员身份证进行换脸。

近期，随着“AI换脸换装”的兴起，不仅可能造成个人隐私数据被泄露，还很可能被利用于实施电信网络诈骗。“骗子可以通过录音提取声音，利用‘AI变声’技术，对录音素材进行剪辑合成，用伪造的声音实施诈骗。”市公安局网络民警表示，“AI换脸换装”还可通过收集发布的照片视频，利用AI技术“换脸”，用伪造的照片和视频实施诈骗；通过AI技术收集个人信息并对人物性格、需求倾向等进行刻画，根据所要实施的诈骗方式对人群进行筛选，选出目标人群。

“涉及资金转账时，提高安全意识，通过多种方式确认对方是否为本人，将转账到账时间设定为24小时到账，以预留处理时间；支付软件以及网银软件要使用多种登录及转账验证方式。”警方温馨提示：谨慎使用各类“AI换脸”软件，加强个人信息保护意识，避免注册不需要的账号，填写不必要的个人信息，以防个人信息泄露。面对不断更新的网络技术和诈骗方式，坚持不轻信，不透露，不点击，不转账。

随着国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》，为深度合成服务划定了“底线”和“红线”，强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任。该规定的出台，对规范“AI换脸”有很大的促进作用。⊙本报记者 李 润