AI換臉再也瞞不住？國家出手，9月起「照妖鏡」伺候！
《人工智能生成合成内容标识办法》正式发布：9月1日起施行
备受关注的《人工智能生成合成内容标识办法》（以下简称《标识办法》）正式落地！近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布了该办法，明确将于2025年9月1日起正式施行。这一举措旨在规范人工智能技术的应用，维护网络信息安全，保障用户合法权益，促进人工智能行业的健康发展。
《标识办法》出台背景：规范AI发展，应对虚假信息
近年来，生成式人工智能技术突飞猛进，在文本、图片、音频、视频等内容创作上展现出强大能力。 然而，在推动经济发展、丰富网络内容的同时，AI生成内容也被滥用，造成虚假信息泛滥、网络生态恶化等问题。面对社会各界的强烈呼吁，国家相关部门迅速响应，制定《标识办法》，旨在通过技术监管和平台责任压实，从源头上遏制AI生成内容的负面影响，保障社会公共利益。
《标识办法》核心内容：标识形式、要求与责任
《标识办法》以内容标识为核心抓手，细化了前期相关部门规章的要求，旨在发挥内容标识在提醒提示和溯源方面的技术作用。 该办法着力构建开放、公正、有效的治理机制，为人工智能产业营造公平有序的发展环境。 内容标识主要分为显式标识和隐式标识两种形式，对服务提供者和内容传播平台提出了明确的标识要求和责任义务。通过对生成、传播等环节的规范，力求实现全流程安全管理，推动人工智能技术的可信赖发展。
显式标识与隐式标识：两种主要形式
《标识办法》明确了人工智能生成合成内容标识的两种主要形式：
显式标识： 指在生成合成内容或交互界面中添加的，以文字、声音、图形等方式呈现，用户可以明显感知的标识。其目的在于直接告知用户，该内容为AI生成。
隐式标识： 指通过技术手段在生成合成内容的文件数据中添加的标识，不易被用户直接感知。 这种标识主要用于追踪溯源，便于监管部门和平台进行内容管理。
与现有规定的衔接：符合相关管理规定
《标识办法》并非横空出世，而是与现有的互联网信息服务管理规定紧密衔接。 按照《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等相关要求开展人工智能生成合成内容标识活动的，都必须符合《标识办法》的具体规定。 这体现了监管政策的连续性和系统性，确保了各项规定能够协同发挥作用，共同构建完善的人工智能治理体系。
服务提供者的义务：添加标识、规范传播
《标识办法》对人工智能生成合成服务的提供者提出了明确的要求。
如果服务属于《互联网信息服务深度合成管理规定》第十七条第一款所列情形，即可能导致公众混淆或者误认的，服务提供者必须对生成合成内容添加显式标识。
同时，服务提供者还需要按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识。
此外，提供网络信息内容传播服务的服务提供者也需要采取技术措施，规范生成合成内容的传播活动，防止虚假信息的扩散。
禁止恶意行为：保护标识，维护权益
《标识办法》明确划定了行为红线：任何组织和个人都不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，更不得通过不正当标识手段损害他人合法权益。 这一规定旨在保护标识的真实性和有效性，防止不法分子利用技术手段逃避监管，从而维护公平公正的网络环境和用户的合法权益。
配套标准与指南：技术支撑与编码指引
为了确保《标识办法》能够有效落地，国家还发布了一系列配套标准和指南。
强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（GB/T XXXXX-2025） 提供了具体的技术实施方案，将于2025年9月1日与《标识办法》同步实施。
此外，全国网络安全标准化技术委员会还组织起草了《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》，为相关主体开展文件元数据隐式标识提供了编码指引。 未来还将陆续推出一系列推荐性标准和实践指南，为各文件格式的元数据标识规范、各应用场景的标识方法等提供更全面的指导。
《人工智能生成合成内容标识办法》答记者问
为帮助公众更好地理解和执行《人工智能生成合成内容标识办法》，国家互联网信息办公室有关负责人接受了记者的提问，对该办法的出台背景、总体思路、适用范围以及与配套标准的关系等问题进行了解答。以下是答记者问的主要内容：
出台背景：解决AI滥用与虚假信息问题
有关负责人指出，《标识办法》的出台，正是为了解决人工智能技术发展带来的滥用风险和虚假信息传播问题。近年来，人工智能技术在信息生成方面展现出强大的能力，但也引发了社会各界的担忧。 通过规范人工智能生成合成内容标识，可以有效提醒用户辨别虚假信息，减轻人工智能技术滥用带来的危害，防范利用人工智能技术制作传播虚假信息的风险行为，从而推动人工智能健康有序发展。
总体思路：细化规定，解决问题，统筹发展与安全
在谈到《标识办法》的制定思路时，有关负责人强调了以下几点：
- 细化已有规定： 在《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等现有规定的基础上，进一步细化标识的具体实施规范。
- 解决关键问题： 重点解决“哪些是生成的”、“谁生成的”、“从哪里生成的”等核心问题，推动从生成到传播各环节的全流程安全管理。
- 统筹发展和安全： 充分考虑人工智能技术的发展需要，在技术难点或企业成本增加的问题上，不作强制要求，而是鼓励创新，提出低成本实施的可行方法，例如文本符号标识、音频节奏标识、文件元数据标识等。
通过以上思路，力求打造可信赖的人工智能技术，实现人工智能产业的健康发展。
适用范围：与现有规定保持一致
《标识办法》的适用范围与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等规定保持一致。 也就是说，符合上述规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动，都适用《标识办法》。 同时，《标识办法》也遵照“法律、行政法规另有规定的，依照其规定”的原则，对于特定活动的内容标识，如果另有规定，则从其规定。
《标识办法》与强制性国家标准的关系
有关负责人强调，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，但不对具体实施操作做硬性规定，以便为人工智能技术创新发展留下空间。
而《网络安全技术 人工智能生成合成内容标识方法》则以强制性国家标准的形式，提出了强制执行部分的标识具体实施方式和操作方法。
两者同步推出，并于2025年9月1日同步实施，旨在更好地指导相关主体规范开展标识活动。
强制性国家标准的主要内容
强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》对人工智能生成合成内容服务提供者与网络信息传播服务提供者提出了内容标识方法的具体要求。
一是 明确人工智能生成合成内容服务提供者对文本、图片、音频、视频、虚拟场景等内容，添加文字、角标、语音、节奏等显式标识的方法，在内容生成合成环节提出了显著提示公众、防范混淆误认的方案。
二是 明确服务提供者在文件中添加元数据隐式标识的方法，为内容传播服务提供者有效识别生成合成内容提供便捷方案，也为内容传播服务提供者履行向公众提醒提示主体责任提供了依据。
三是 在元数据隐式标识设置了预留字段，可用于记录标识完整性、内容一致性等安全防护信息，为促进标识技术创新发展和保护标识安全性预留了空间。
对服务提供者的具体要求
《标识办法》明确了服务提供者需要履行的具体义务：
对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。
在提供生成合成内容下载、复制、导出等功能时，确保文件中含有满足要求的显式标识。
在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
互联网应用程序分发平台的措施
《标识办法》对互联网应用程序分发平台也提出了要求，即在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。 这旨在从源头上规范人工智能生成合成服务的提供，确保用户能够通过正规渠道获取相关应用，并了解其是否具备生成合成内容的能力以及相关的标识情况。
如何合规获得未添加显式标识的内容
考虑到生成合成内容在实际应用中的复杂性，以及部分场景下用户可能需要未添加显式标识的内容，《标识办法》也给出了解决方案。
在用户主动要求提供未添加显式标识内容时，网站平台在不违反相关法律法规要求前提下，可以通过在用户协议中明确责任义务并依法留存相关日志信息后，面向用户予以提供。
但需要注意的是，用户在使用这些内容时，必须遵守《标识办法》的相关要求，主动声明生成合成情况并添加显式标识后，方可面向公众发布和传播。
对规范开展标识行为的要求
《标识办法》对规范开展标识行为提出了明确的要求，强调任何组织和个人都不得：
- 恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识。
- 为他人实施上述恶意行为提供工具或者服务。
- 通过不正当标识手段损害他人合法权益。
这些规定旨在确保标识的真实性和有效性，防止被滥用，从而维护用户权益和网络秩序。
施行时间考虑：给予企业过渡期
考虑到企业需要时间充分理解相关规定和标准规范，针对性地开展能力建设和功能研发，以及标识技术实施的复杂程度和试点试行的实践经验， 《标识办法》和配套强制性国家标准设定了6个月左右的施行过渡期，以便企业能够做好充分准备，确保相关措施能够顺利实施。
相关文章
发表评论