北斗观察网 | 全流程安全管理打造可信赖的人工智能技术

四部门联合发布

《人工智能生成合成内容标识办法》

全流程安全管理打造

可信赖的人工智能技术

　　核心阅读

　　伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规有望成为相关部门开展人工智能监督检查、专项行动的重点关注领域。

本报记者 刘欣

　　利用人工智能“换脸”“拟声”冒充亲友实施诈骗，借助人工智能合成的假视频冒充名医、名人进行虚假宣传，通过人工智能生成谣言后在网上传播……越来越多人工智能生成的信息，充斥在网络中，真假难辨。

　　近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播，在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题，引发社会各界的关注。

　　为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》)，自2025年9月1日起施行。

　　推动建立新技术安全体系

　　《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。

　　据联合国高级别人工智能咨询机构中方专家、中国政法大学数据法治研究院教授张凌寒介绍，在人工智能生成合成内容的生产环节，服务提供者应对生成合成内容添加标识。服务提供者应对文本、图片、音频、视频、虚拟场景等典型应用场景的生成合成内容添加显式标识，并在生成合成内容的文件元数据中添加隐式标识，以明确内容属性、服务提供者信息等内容。

　　在人工智能生成合成内容的传播环节，不同主体应对标识的合规性进行确认。服务提供者在提供生成合成内容下载、复制、导出等服务时，应当确保文件中含有满足要求的显式标识。网络信息内容传播平台应当核验文件元数据中是否含有隐式标识，并采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户。互联网应用程序分发平台在应用程序上架或上线审核时，应核验生成合成内容标识相关材料。

　　在人工智能生成合成内容的使用环节，用户同样应履行标识义务。服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。用户向网络信息内容传播平台上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。

　　国家计算机网络应急技术处理协调中心正高级工程师张震表示，《标识办法》是对《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》的继承和延伸，从人工智能技术特性出发，在生成合成标识这一人工智能安全治理关键上提出了针对性的管理思路，将成为我国建立健全人工智能新技术安全体系的重要推动力。

　　“《标识办法》进一步明确了人工智能生成合成内容全生命周期履行标识义务的具体要求与主体责任，完善了我国生成式人工智能的治理框架。”张凌寒说。

　　张震认为，《标识办法》充分彰显了监管理念的与时俱进，从传统的严格监管转向更加灵活的引导与规范，既尊重了技术创新的内在规律，又体现对潜在风险的有效防范。

　　同步发布强制性国家标准

　　为推动《标识办法》落地实施，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》)同步发布。

　　国家网信办有关负责人介绍说，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，为促进人工智能技术创新发展，对具体实施操作不作要求。《标识标准》以强制性国家标准形式制定实施，主要提出强制执行部分的标识具体实施方式和操作方法，两者同步推出，于2025年9月1日同步实施，以更好地指导相关主体规范开展标识活动。

　　“《标识标准》作为《标识办法》的补充，明确了生成合成内容标识应当遵循的技术方法，为产业落地提供了参考依据。”张震说。

　　在中国电子技术标准化研究院副院长范科峰看来，此次《标识办法》《标识标准》的协同发布，破解了以往治理中管理规范与技术标准衔接不畅的问题，形成了“制度牵引技术落地，技术固化制度要求”的治理闭环。

　　作为我国人工智能领域首部“办法+强标”组合拳，其创新性体现在三个维度：管理维度明确生成、传播、分发全链条主体责任；监管维度建立审核、监测、追责的闭环机制；技术维度规范显隐标识体系并预留创新空间。范科峰说，“这种三位一体的治理架构，既通过管理机制明确责任边界，又依托监管举措筑牢安全防线，更以技术标准固化治理要求，为人工智能安全治理提供了清晰的实施路径。”

　　规范人工智能生成合成内容标识的举措还有许多。全国网络安全标准化技术委员会针对生成合成服务提供者和内容传播服务提供者的平台编码，组织起草了配套实践指南《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》，已于3月14日正式获批发布，为相关主体开展文件元数据隐式标识提供了编码指引。

　　此外，全国网络安全标准化技术委员会正在就各文件格式的元数据标识规范、各应用场景的标识方法等组织编制一系列推荐性标准、实践指南，将在《标识办法》发布后逐步推出。

　　全社会凝心聚力协同配合

　　《标识办法》《标识标准》的发布，标志着我国在人工智能安全治理领域迈出了重要的一步。推动《标识办法》《标识标准》落地的重要性不言而喻。

　　“考虑到企业需要时间充分理解相关规定和标准规范，有针对性地开展能力建设和功能研发，基于标识技术实施的复杂程度、试点试行的实践经验，设定《标识办法》和《标识标准》6个月左右的施行过渡期。”国家网信办有关负责人说。

　　“《标识办法》和《标识标准》的落地离不开全社会的凝心聚力和协同配合。”中国工程院院士、浙江大学教授陈纯说，地方主管部门、高校、科研机构、企业可共同参与，充分利用新媒体、新渠道面向全社会进行大力宣贯，形成标识工作先行的多点协同内容治理网络，推动标识工作行稳致远。此外，有必要建立全国性的内容标识公共服务平台，以可视可交互的实际操练形式，配合口头宣贯，促进公众和产业深入理解标识工作。

　　“可以预见，我国人工智能安全执法将延续重点事项监管、促进产业有序发展的方向。”公安部第三研究所副所长金波认为，伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规有望成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中，一系列深层次问题亟待审慎思考与妥善解决——如何平衡发展与安全、创新与责任、公益与私益等多元目标的内在张力，怎样达成不同执法部门、不同层级、不同地域执法的一致性、协调性，又该通过何种路径提升执法的专业化、精细化、智慧化水平，从而培育出安全、开放、公平、符合国情的人工智能产业生态环境。这些都是标识管理中需要深入探究的重要课题。

　　“此外，‘人的因素’应融入人工智能标识管理的全过程，着重提升公众对于信息内容真实性、来源可追溯性的批判性评估能力，无疑是重中之重。积极培育公众人工智能素养，确保人工智能技术成果普惠共享，这也是应有之义。”金波说。

　　张凌寒认为，目前的人工智能生成合成内容标识制度主要关注于“是否机器生成”的形式判断，随着标识技术的进步与发展，未来标识制度能够发挥更为丰富的功能，从形式判断逐渐转向“是否足够可靠”的质量判断，进一步促进行业健康发展。

  来源：法治日报

相关报道：

关于印发《人工智能生成合成内容标识办法》的通知

国信办通字〔2025〕2号

各省、自治区、直辖市互联网信息办公室、通信管理局、公安厅（局）、广播电视局，新疆生产建设兵团互联网信息办公室、工业和信息化局、公安局、文化体育广电和旅游局：

为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》，现印发给你们，请认真遵照执行。

国家互联网信息办公室

工业和信息化部

公安部

国家广播电视总局

2025年3月7日

人工智能生成合成内容标识办法

第一条 为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。

第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用本办法。

第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：

（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；

（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；

（三）在图片的适当位置添加显著的提示标识；

（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；

（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。

第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：

（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；

（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；

（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；

（四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。

第七条 互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。

第十条 用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

第十一条 服务提供者开展标识活动的，还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。

第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。

第十三条 违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

第十四条 本办法自2025年9月1日起施行。

来源：中国网信网