小米、字节等11家企业被约谈：督促“深度伪造”技术安全评估

3月18日消息，国家互联网信息办公室、公安部指导各地网信部门、公安机关近日加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业被各地方网信部门、公安机关依法约谈。

据网信中国公众号消息，国家互联网信息办公室、公安部目前针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用开展指导约谈工作，上述11家企业被督促按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等政策及法规要求，开展安全评估，切实履行企业信息内容安全主体责任。

据悉，国家互联网信息办公室、公安部下一步将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规。

资料显示， 深度伪造技术，是被称作“生成式对抗网络“的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。它最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。