摘要
深度合成技术被广泛应用于智能服务、音视频产品制作、媒体传播和信息服务,已成为人工智能领域的热点应用之一。剖析了深度合成技术原理和实现方式,分析了深度合成技术在机器人写稿、语音合成、智能客服、声音复制、人脸合成、姿态操纵、虚拟人物和虚拟场景等典型应用场景中的应用情况,并总结了深度合成技术应用带来的生成和传播虚假信息、侵害他人合法权益、被其他违法犯罪活动利用、影响国家安全等风险。研究了欧盟、美国等采取措施开展深度合成技术应用治理的情况和我国加强深度合成应用管理的情况,并从深度合成技术应用的智能性、拟真性、泛在性特点出发,分析了防控深度合成技术应用风险的举措,提出了构建全方位监管规则体系,强化技术监督,提高全社会风险防范意识等具体应对措施。
-
单位中国信息通信研究院; 电子信息工程学院; 北京交通大学