随着人工智能的蓬勃发展，深度合成算法已经成为广泛应用于人们生产生活中的常见技术。这里的深度合成指的是使用了人工智能（深度模型）提供内容生成的相关技术，可以将深度合成看作人工智能的另一种叫法（往往在合规领域这么叫）。代表产品很多，如图像视频领域的AI换脸、人脸风格化、人脸性别转换、人脸年龄转换等；音频领域的人声合成、变声、文字转语音等。

还有人工智能产业的新风口：ChatGPT。随着OpenAI提供的ChatGPT和相关产品在国内爆火，目前国内很多企业都已开始研究开发类GPT大模型或基于ChatGPT接口为用户提供AIGC内容。这些产品可能是聊天机器人、智能音箱、写作助手。

深度合成算法已经成为广泛应用于人们生产生活中的常见技术，在推动经济社会发展的同时，也带来一定的社会管理潜在风险。最近看到相关的应用风险不少，引起热议。

我们的重点关注的是合规风险。即国内厂商提供深度合成技术支撑或使用深度合成技术（自研的或第三方提供的）开展深度合成相关服务时，应当关注哪些重点，保障服务合规上路，提前规避相关风险，在赛道选择、产品研发运营上少走弯路。

避免陷入下面的尴尬情境：

合规风险主要包括证照合规、内容监管合规、数据合规、算法合规、运营合规。我们重点关注算法合规和算法相关监管合规要求，也是企业最主要的痛点难点问题。

一、政策依据

根据《网络安全法》、《数据安全法》、《个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，国家互联网信息办公室联合工业和信息化部、公安部发布了

该规定是目前我国针对互联网信息服务深度合成技术出台的最为系统的专门性部门规章。

规定明确了使用深度合成技术开展服务的企业的行为规范。从合规开展服务的角度来说，包括建设完备的信息安全主体责任、制定和公开相关的规则规范、开展用户身份认证、加强深度合成内容管理、建立健全辟谣机制，设置投诉、举报入口等。具体深度合成合规要点和合规风险点梳理请私信联系。

从具体配合监管的操作上来看，企业在开展深度合成服务时应当开展算法备案、算法评估和配合算法检查。

具体包括：具有舆论属性或者社会动员能力的深度合成服务提供者、技术支持者应当履行备案和变更、注销备案手续。上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当开展安全评估。深度合成服务提供者、技术支持者应当依法配合网信部门和有关主管部门开展的监督检查，并提供必要的支持和协助。

二、深度合成备案

《互联网信息服务算法推荐管理规定》第二十条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
《互联网信息服务深度合成管理规定》具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

算法备案信息包括算法主体信息和算法信息两部分。

算法主体信息是指备案主体的基本信息，包括主体名称、证件信息、法人信息、责任人信息等。

算法信息包括算法基本属性信息、算法详细属性信息、算法产品及功能信息。

详细内容可以参考另一篇文章。

三、深度合成评估

《互联网信息服务深度合成管理规定》

第十三条互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
第十五条 深度合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。
深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：
（一）生成或者编辑人脸、人声等生物识别信息的；
（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的

可以看到，这里的评估主要有两个作用，一个是应用市场上架需要，一个是针对特殊的深度合成类型需开展安全评估。这些两种评估在内容上、主管部门上并不相同，同时评估可以自行开展、委托评估机构或由主管部门开展，又有不同的方案与流程。

相比备案，由于评估的复杂性，需根据企业的具体情况和需求出具针对性方案，具体可以参考：

四、总结和建议

为防控深度合成技术使用带来的相关风险，更为了保障企业的合规合法运行，严格落实《网络安全法》、《数据安全法》、《个人信息保护法》、《互联网信息服务深度合成管理规定》等相关规定。在算法合规上配合监管相关要求，在相关道路的选择上，不同应用类型、服务方式、服务对象所适用的场景和合规要求亦有所不同。对此，企业应依据自身实际情况选择更优的合规规划。