《深度合成管理规定》明年1月正式施行，AI技术纳入监管！

【GameLook专稿，未经授权不得转载！】

GameLook报道/从AI插画生成到聊天机器人ChatGPT，AI技术无疑在2022年又一次站上了风口浪尖。不过，随之而来的法律和伦理问题也愈发受到外界关注：版权侵犯、信息欺诈、隐私盗用，无束缚的自由生长让AI应用的潜在风险接续暴露，对此加以规范引导也成为监管层面的当务之急。

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。在经历了近一年的公示、讨论、修改后，包括人脸替换、合成人声、图像生成在内的各种AI应用，在国内也将正式迈入法制时代。

划定规范红线，引导科技向善

今年1月28日，国家网信办在官网发布了《规定》的征求意见稿，对于文本、图像、音频、视频等各种借助AI技术进行深度合成的行为进行了边界划分和初步规范。GameLook注意到，在此次答记者问环节中，对于“深度合成”的定义与征求意见稿又有了新的变化（加粗部分为新增内容）：

《规定》中所称深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、虚拟场景等网络信息的技术，具体包括篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；音乐生成、场景声编辑等生成或者编辑非语音内容的技术；人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

此次新增的部分正是为了涵盖时下流行的AI图像生成和数字人技术，将这些新的热门领域纳入到监管范围内，从而保证《规定》的与时俱进。

同时，《规定》明确提供了深度合成服务的总体要求，强调不得利用深度合成服务从事法律、行政法规禁止的活动。《规定》也要求深度合成服务提供者和技术支持者加强训练数据管理和技术管理，保障数据安全，不得非法处理个人信息，定期审核、评估、验证算法机制机理。

《规定》还明确要求提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

而对于信息安全，《规定》要求深度合成服务提供者、技术支持者应当依法配合网信部门和有关主管部门开展的监督检查，并提供必要的支持和协助。发现存在较大信息安全风险的，网信部门和有关主管部门可以按照职责依法要求其采取暂停信息更新、用户账号注册或者其他服务等措施。

AI规范成行业共识，部分网站已先行先试

随着AI技术逐渐向日常应用发展，对于AI进行规范引导，已经成为行业共识。此前，GameLook就曾报道过，由于AI合成图像技术的飞速发展，已经导致二次元同人插画真假难辨，日本最大的同人插画网站Pixiv早前推出了暂时的AI合成图像政策，要求用户发布AI合成图像时必须带有明确的标签，以和真人画师的作品加以区隔。

而GameLook注意到，国内的同人社区半次元也已经有AI、AI插画等相关标签的圈子，同时已经有不少用户上传自己的AI插画作品。

此外，此次《规定》还明确要求深度合成提供者应当依法对深度合成服务使用者进行真实身份信息认证，而时下流行的虚拟主播或将成为受此次新规影响较大的群体。

值得注意的是，早在今年2月，Bilibili直播就发布公告，在实名制认证之外，将上线开播前人脸认证功能，并将在后续逐步在各个分区开放。

这项新规的实施，一方面可以杜绝个别虚拟主播利用虚拟形象发表不当言论或进行非法直播，封号后更换形象低成本“秽土重生”的乱象。另一方面也保护了观众特别是打赏者的知情权，减少虚拟主播因真实身份而备受争议的情况发生。

随着《规定》将于明年1月10日正式施行，所有深度合成服务提供者、技术支持者和使用者都将成为受约束对象。这既是在保护所有依法依规的深度合成参与者，也是在对所有试图借助AI技术牟利的不法分子敲响警钟：互联网并非法外之地，AI技术的迷惑性不能也不会成为违法犯罪的保护伞。