专家解读
构建人工智能安全治理新格局互联网、大数据与人工智能等信息技术的飞速发展，在过去半个世纪以来，已推动人类社会走向“人类-信息-物理”三元空间的智能融合，深度渗透至经济社会各领域。党的十八大以来，以习近平同志为核心的党中央高度重视我国新一代人工智能发展，提出了“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应”“加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题”等一系列重要论述，深刻阐明了人工智能在国家发展战略中的核心地位和关键作用。近年来，ChatGPT、DeepSeek等生成式人工智能技术的颠覆性突破，正推动人类社会进入新阶段。回望人工智能发展历程，从未有过任何阶段，技术发展的触角从产业革新进一步延伸至人类价值重构，真正成为关系国家数字主权竞争的战略制高点，成为牵动国家兴衰与文明存续的核心变量。
当前，信息网络空间成为连接人类社会与物理世界的桥梁，在全球科技创新加速演进的过程中，人工智能已成为决定大国竞争力和未来影响力的核心领域之一。在此背景下，人工智能的规则制定权逐渐成为大国博弈的新焦点，其重要性不仅体现在技术层面，更延伸至国家安全、产业发展和国际秩序塑造等多个维度。
在此背景下，欧盟、美国、加拿大等国家出台了人工智能相关政策法规，条款涉及内容标识，但尚未发布专项法规明确标识形式和技术指标。我国恰逢其时地出台了《标识办法》和《标识标准》，全方位、多层次地规范人工智能内容标识要求和方法，这一举措不仅体现了我国在人工智能治理领域的前瞻性和责任感，也为全球范围内的人工智能安全治理树立了新的标杆，为维护全球数字生态安全与可持续健康发展贡献了中国智慧。
《标识办法》和《标识标准》的发布，标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步，对构建规范健全的技术生态和健康可持续的智能科技产业产生了深远影响，其关键作用主要体现在以下三个方面。
首先，为人工智能技术领域规范化发展奠定了坚实基础。《标识办法》和《标识标准》不仅为行业提供了明确的技术指导原则，极大地提升了技术的透明度和可追溯性，为生成式人工智能技术应用划定了红线，也为有效溯源和遏制虚假信息传播提供了技术抓手，维护了网络生态安全。依靠技术手段实现有效治理不仅关乎社会秩序的稳定，更成为了保障经济持续健康发展的关键所在。
其次，为构建更完善的生成式人工智能产业链指明了正确方向。《标识办法》和《标识标准》通过细化生成合成内容管理规则，推动了人工智能产业标准化进程，构建了一个更加公平、透明且高效的市场环境，不仅增强了市场主体参与产业的积极性，助力传统产业转型升级，还促进了产业链上下游的协同创新，为产业规模化发展提供了内生动力，从而助力国产生成式人工智能生态的健康发展。
《标识办法》和《标识标准》的落地离不开全社会的凝心聚力和协同配合。地方主管部门、高校、科研机构、企业可共同参与，充分利用新媒体、新渠道面向全社会进行大力宣贯，形成标识工作先行的多点协同内容治理网络，推动标识工作行稳致远。此外，有必要建立全国性的内容标识公共服务平台，以可视可交互的实际操练形式，配合口头宣贯，促进公众和产业深入理解标识工作。以《标识办法》制度设计为纲领、《标识标准》技术实施规范为指导，浙江大学配合中国电子技术标准化研究院研发的服务平台——人工智能生成合成内容标识服务平台，日前已对外发布使用。通过大力宣贯内容标识政策标准与大力推广公共服务平台相结合的方式，建立全社会共同认知，确保内容标识政策标准的顺利推行、有效落实、持续夯实。
在“人类-信息-物理”三元空间融合、万物互联的智能时代，各类软硬件基础设施已经与经济社会发展的各领域全过程密不可分。作为新一代技术燃料，生成式人工智能驱动基础设施进行更深层次的智能化变革转换，促使信息技术从普通工具属性向“思维伙伴”型高智能化工具属性进化，为当下时代带来颠覆性的发展机遇，在未来势必成为我们必备的技能，与我们相伴相生。这要求我们在使用人工智能时切实正确理解并管理人工智能。人工智能安全框架体系以可控管理的人工智能应用为目标，是我们在智能时代必须完成的历史命题。它不是限制发展的枷锁，而是文明进步的助推器。只有在智能时代保持主导地位，才能实现三元空间中万物和谐共生、人类文明稳步跃迁的美好愿景。
面对有限预知的未来，立足于人类与人工智能共生的发展蓝图，标识工作将成为理解与管理人工智能的开路先锋，为构筑人工智能安全框架体系提供宝贵的实践指南。
各省、自治区、直辖市互联网信息办公室、通信管理局、公安厅（局）、广播电视局，新疆生产建设兵团互联网信息办公室、工业和信息化局、公安局、文化体育广电和旅游局：
为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》，现印发给你们，请认真遵照执行。
人工智能生成合成内容标识办法
第一条 为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用本办法。
第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
人工智能生成合成内容标识包括显式标识和隐式标识。
显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：
（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；
（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；
（三）在图片的适当位置添加显著的提示标识；
（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；
（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。
服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。
第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：
（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；
（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；
（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；
（四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
第七条 互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。
第十条 用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
第十一条 服务提供者开展标识活动的，还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。
第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
第十三条 违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
第十四条 本办法自2025年9月1日起施行。
