国家互联网信息办公室等四部门印发《人工智能生成合成内容标识办法》

发布时间:2025-03-17 15:14:57    浏览次数:232     来源:国家互联网信息办公室网站

3月14日,国家互联网信息办公室等四部门印发《人工智能生成合成内容标识办法》,《标识办法》共十四条,聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。《标识办法》自2025年9月1日起施行。


关于印发《人工智能生成合成内容标识办法》的通知

国信办通字〔20252

各省、自治区、直辖市互联网信息办公室、通信管理局、公安厅(局)、广播电视局,新疆生产建设兵团互联网信息办公室、工业和信息化局、公安局、文化体育广电和旅游局:

为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》,现印发给你们,请认真遵照执行。

国家互联网信息办公室

工业和信息化部

公安部

国家广播电视总局

2025年3月7日


人工智能生成合成内容标识办法

第一条 为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章,制定本办法。

第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。

第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:

(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;

(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;

(三)在图片的适当位置添加显著的提示标识;

(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;

(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;

(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。

第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。

第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施,规范生成合成内容传播活动:

(一)核验文件元数据中是否含有隐式标识,文件元数据明确标明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,明确提醒公众该内容属于生成合成内容;

(二)文件元数据中未核验到隐式标识,但用户声明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容可能为生成合成内容;

(三)文件元数据中未核验到隐式标识,用户也未声明为生成合成内容,但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的,识别为疑似生成合成内容,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容疑似生成合成内容;

(四)提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。

有前款第一项至第三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。

第七条 互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。

第十条 用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

第十一条 服务提供者开展标识活动的,还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。

第十二条 服务提供者在履行算法备案、安全评估等手续时,应当按照本办法提供生成合成内容标识相关材料,并加强标识信息共享,为防范打击相关违法犯罪活动提供支持和帮助。

第十三条 违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。

第十四条 本办法自202591日起施行。


关键字: 人工智能
李强签署国务院令 公布《公共安全视频图像信息系统管理条例》|网络安全|等级测评机构|河南金盾信安 金盾信安官网|网络安全|等级测评机构|河南金盾信安

李强签署国务院令 公布《公共安全视频图像信息系统管理条例》

发布时间:2025-02-12 10:12:39    浏览次数:474     来源:中国政府网

近日,国务院总理李强签署国务院令,公布《公共安全视频图像信息系统管理条例》,《条例》共34条,旨在规范公共安全视频系统管理,维护公共安全,保护个人隐私和个人信息权益。《条例》规定公共安全视频系统管理单位应当履行系统运行安全管理职责,履行网络安全、数据安全和个人信息保护义务,建立健全管理制度,完善防攻击、防入侵、防病毒、防篡改、防泄露等安全技术措施,定期维护设备设施,保障系统连续、稳定、安全运行,确保视频图像信息的原始完整。《条例》自2025年4月1日起施行。


中华人民共和国国务院令

第799号

《公共安全视频图像信息系统管理条例》已经2024年12月16日国务院第48次常务会议通过,现予公布,自2025年4月1日起施行。

总理  李强

2025年1月13日


公共安全视频图像信息系统管理条例

第一条 为了规范公共安全视频图像信息系统管理,维护公共安全,保护个人隐私和个人信息权益,根据有关法律,制定本条例。

第二条 本条例所称公共安全视频图像信息系统(以下简称公共安全视频系统),是指通过在公共场所安装图像采集设备及相关设施,对涉及公共安全的区域进行视频图像信息收集、传输、显示、存储的系统。

第三条 公共安全视频系统管理工作坚持中国共产党的领导,贯彻党和国家路线方针政策和决策部署。

建设、使用公共安全视频系统,应当遵守法律法规,坚持统筹规划、合理适度、标准引领、安全可控,不得危害国家安全、公共利益,不得损害个人、组织的合法权益。

第四条 国家鼓励和支持视频图像领域的技术创新与发展,建立和完善相关标准体系,支持有关行业组织依法加强行业自律,提高公共安全保障能力和个人信息保护水平。

第五条 国务院公安部门负责全国公共安全视频系统建设、使用的指导和监督管理工作。国务院其他有关部门在各自职责范围内负责公共安全视频系统建设、使用的相关管理工作。

县级以上地方人民政府公安机关负责本行政区域内公共安全视频系统建设、使用的指导和监督管理工作。县级以上地方人民政府其他有关部门在各自职责范围内负责公共安全视频系统建设、使用的相关管理工作。

第六条 县级以上地方人民政府应当加强对公共安全视频系统建设的统筹规划,充分利用现有资源,避免重复建设。

第七条 城乡主要路段、行政区域道路边界、桥梁、隧道、地下通道、广场、治安保卫重点单位周边区域等公共场所的公共安全视频系统,由县级以上地方人民政府按照建设规划组织有关部门建设,纳入公共基础设施管理,建设、维护经费列入本级政府预算。

下列公共场所涉及公共安全区域的公共安全视频系统,由对相应场所负有经营管理责任的单位按照相关标准建设,安装图像采集设备的重点部位由县级以上地方人民政府各有关部门按照职责分工指导确定:

(一)商贸中心、会展中心、旅游景区、文化体育娱乐场所、教育机构、医疗机构、政务服务大厅、公园、公共停车场等人员聚集场所;

(二)出境入境口岸(通道)、机场、港口客运站、通航建筑物、铁路客运站、汽车客运站、城市轨道交通站等交通枢纽;

(三)客运列车、营运载客汽车、城市轨道交通车辆、客运船舶等大中型公共交通工具;

(四)高速公路、普通国省干线的服务区。

在前两款规定的场所、区域内安装图像采集设备及相关设施,应当为维护公共安全所必需,除前两款规定的政府有关部门、负有经营管理责任的单位(以下统称公共安全视频系统管理单位)外,其他任何单位或者个人不得安装。

第八条 禁止在公共场所的下列区域、部位安装图像采集设备及相关设施:

(一)旅馆、饭店、宾馆、招待所、民宿等经营接待食宿场所的客房或者包间内部;

(二)学生宿舍的房间内部,或者单位为内部人员提供住宿、休息服务的房间内部;

(三)公共的浴室、卫生间、更衣室、哺乳室、试衣间的内部;

(四)安装图像采集设备后能够拍摄、窥视、窃听他人隐私的其他区域、部位。

对上述区域、部位负有经营管理责任的单位或者个人,应当加强日常管理和检查,发现在前款所列区域、部位安装图像采集设备及相关设施的,应当立即报告所在地公安机关处理。

第九条 在本条例第七条规定之外的其他公共场所安装图像采集设备及相关设施,应当为维护公共安全所必需,仅限于对该场所负有安全防范义务的单位或者个人安装,其他任何单位或者个人不得安装。

依照前款规定安装图像采集设备及相关设施的,应当遵守本条例除第十一条、第十四条、第十五条、第十六条第二款、第十七条规定的强制性要求之外的其他各项规定。

第十条 依照本条例安装图像采集设备及相关设施,位于军事禁区、军事管理区以及国家机关等涉密单位周边的,应当事先征得相关涉密单位的同意。

第十一条 公共安全视频系统管理单位应当按照相关标准建设公共安全视频系统,开展设计、施工、检验、验收等工作,并依法保存、管理相关档案资料。

第十二条 公共安全视频系统采用的产品、服务应当符合国家标准的强制性要求。产品、服务的提供者不得设置恶意程序;发现其产品、服务存在安全缺陷、漏洞等风险时,应当立即采取补救措施,按照规定及时告知用户并向有关主管部门报告。

第十三条 公共安全视频系统管理单位应当按照维护公共安全所必需、注重保护个人隐私和个人信息权益的要求,合理确定图像采集设备的安装位置、角度和采集范围,并设置显著的提示标识。未设置显著提示标识的,由公安机关责令改正。

第十四条 公共安全视频系统管理单位应当在系统投入使用之日起30日内,将单位基本情况、公共安全视频系统建设位置、图像采集设备数量及类型、视频图像信息存储期限等基本信息,向所在地县级人民政府公安机关备案。本条例施行前已经启用的,应当在本条例施行之日起90日内备案。公共安全视频系统备案事项发生变化的,应当及时办理备案变更。

公共安全视频系统管理单位应当对备案信息的真实性负责。

公安机关应当加强信息化建设,为公共安全视频系统管理单位办理备案提供便利,能够通过部门间信息共享获得的备案信息,不要求当事人提供。

第十五条 公共安全视频系统管理单位应当履行系统运行安全管理职责,履行网络安全、数据安全和个人信息保护义务,建立健全管理制度,完善防攻击、防入侵、防病毒、防篡改、防泄露等安全技术措施,定期维护设备设施,保障系统连续、稳定、安全运行,确保视频图像信息的原始完整。

公共安全视频系统管理单位委托他人运营的,应当通过签订安全保密协议等方式,约定前款规定的网络安全、数据安全和个人信息保护义务并监督受托方履行。

第十六条 公共安全视频系统管理单位使用视频图像信息,应当遵守法律法规,依法保护国家秘密、商业秘密、个人隐私和个人信息,不得滥用、泄露。

公共安全视频系统管理单位应当采取下列措施,防止滥用、泄露视频图像信息:

(一)建立系统监看、管理等重要岗位人员的入职审查、保密教育、岗位培训等管理制度;

(二)采取授权管理、访问控制等技术措施,严格规范内部人员对视频图像信息的查阅、处理;

(三)建立信息调用登记制度,如实记录查阅、调取视频图像信息的事由、内容及调用人员的单位、姓名等信息;

(四)其他防止滥用、泄露视频图像信息的措施。

第十七条 公共安全视频系统收集的视频图像信息应当保存不少于30日;30日后,对已经实现处理目的的视频图像信息,应当予以删除。法律、行政法规对视频图像信息保存期限另有规定的,从其规定。

第十八条 为公共安全视频系统提供网络传输服务的电信业务经营者,应当加强对视频图像信息传输的安全管理,依照法律、行政法规的规定和国家标准的强制性要求,采取技术措施和其他必要措施,保障网络安全、稳定运行,维护数据的完整性、保密性和可用性。

第十九条 接受委托承担公共安全视频系统设计、施工、检验、验收、维护等工作的单位及其工作人员,应当对接触到的视频图像信息和相关档案资料予以保密,不得用于与受托工作无关的活动,不得擅自留存、加工、泄露或者向他人提供。

第二十条 国家机关为履行执法办案、处置突发事件等法定职责,查阅、调取公共安全视频系统收集的视频图像信息,应当依照法律、行政法规规定的权限、程序进行,并严格遵守保密规定,不得超出履行法定职责所必需的范围和限度。

第二十一条 为了保护自然人的生命健康、财产安全,经公共安全视频系统管理单位同意,本人、近亲属或者其他负有监护、看护、代管责任的人可以查阅关联的视频图像信息;对获悉的涉及公共安全、个人隐私和个人信息的视频图像信息,不得非法对外提供或者公开传播。

第二十二条 公共安全视频系统收集的视频图像信息被依法用于公开传播,可能损害个人、组织合法权益的,应当对涉及的人脸、机动车号牌等敏感个人信息,以及法人、非法人组织的名称、营业执照等信息采取严格保护措施。

第二十三条 任何单位或者个人不得实施下列行为:

(一)违反法律法规规定,对外提供或者公开传播公共安全视频系统收集的视频图像信息;

(二)擅自改动、迁移、拆除依据本条例第七条规定安装的图像采集设备及相关设施,或者以喷涂、遮挡等方式妨碍其正常运行;

(三)非法侵入、控制公共安全视频系统;

(四)非法获取公共安全视频系统中的数据;

(五)非法删除、隐匿、修改、增加公共安全视频系统中的数据或者应用程序;

(六)其他妨碍公共安全视频系统正常运行,危害网络安全、数据安全、个人信息安全的行为。

第二十四条 公安机关对公共安全视频系统的建设、使用情况实施监督检查,有关单位或者个人应当予以协助、配合。

有关单位或者个人发现有违反本条例第七条第三款、第八条第一款、第九条第一款规定安装图像采集设备及相关设施的,可以向公安机关举报。公安机关应当依法及时处理。

第二十五条 公安机关应当严格执行内部监督制度,对其工作人员履行公共安全视频系统建设、使用职责情况进行监督。

公安机关及其工作人员在履行公共安全视频系统建设、使用、监督管理职责过程中,有违反本条例规定,或者其他滥用职权、玩忽职守、徇私舞弊行为的,任何单位或者个人有权检举、控告。

第二十六条 违反本条例第七条第三款、第九条第一款规定安装图像采集设备及相关设施的,由公安机关责令限期改正,并删除所收集的视频图像信息;拒不改正的,没收相关设备设施,对违法个人并处5000元以下罚款,对违法单位并处2万元以下罚款,对其直接负责的主管人员和其他直接责任人员处5000元以下罚款。

第二十七条 违反本条例第八条第一款规定安装图像采集设备及相关设施的,由公安机关没收相关设备设施,删除所收集的视频图像信息,对违法个人并处5000元以上1万元以下罚款,对违法单位并处1万元以上2万元以下罚款,对其直接负责的主管人员和其他直接责任人员处5000元以上1万元以下罚款;偷窥、偷拍、窃听他人隐私,构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

对相应区域、部位负有经营管理责任的单位或者个人未履行本条例第八条第二款规定的日常管理和检查义务的,由公安机关责令改正;拒不改正或者造成严重后果的,对违法个人处5000元以上1万元以下罚款,对违法单位处1万元以上2万元以下罚款,对其直接负责的主管人员和其他直接责任人员处5000元以上1万元以下罚款,并通报有关主管部门根据情节轻重责令暂停相关业务或者停业整顿、吊销相关业务许可或者吊销营业执照。

第二十八条 未依照本条例第十条规定征得相关涉密单位同意安装图像采集设备及相关设施的,由公安机关没收相关设备设施,删除所收集的视频图像信息,对违法个人并处5000元以上1万元以下罚款,对违法单位并处1万元以上2万元以下罚款,对其直接负责的主管人员和其他直接责任人员处5000元以上1万元以下罚款;非法获取国家秘密、军事秘密的,依照有关法律的规定给予处罚;构成犯罪的,依法追究刑事责任。

第二十九条 未依照本条例第十四条规定备案或者提供虚假备案信息的,由公安机关责令限期改正;拒不改正的,处1万元以下罚款。

第三十条 违反本条例第二十三条第二项规定擅自改动、迁移、拆除图像采集设备及相关设施的,由公安机关责令改正,给予警告;拒不改正或者造成严重后果的,对违法个人处5000元以下罚款,对违法单位处5000元以上1万元以下罚款,对其直接负责的主管人员和其他直接责任人员处5000元以下罚款。

第三十一条 违反本条例规定,未履行网络安全、数据安全和个人信息保护义务,或者非法对外提供、公开传播视频图像信息的,依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》的规定给予处罚;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

第三十二条 公安机关及其工作人员在履行公共安全视频系统建设、使用、监督管理职责过程中,违反本条例规定,或者有其他滥用职权、玩忽职守、徇私舞弊行为的,由上级公安机关或者有关主管部门责令改正,对负有责任的领导人员和直接责任人员依法给予处分;构成犯罪的,依法追究刑事责任。

其他国家机关及其工作人员在履行公共安全视频系统建设、使用、相关管理职责过程中,违反本条例规定,或者在依照本条例第二十条规定查阅、调取视频图像信息过程中,有滥用职权、玩忽职守、徇私舞弊行为的,由其上级机关或者有关主管部门责令改正,对负有责任的领导人员和直接责任人员依法给予处分;构成犯罪的,依法追究刑事责任。

第三十三条 在非公共场所安装图像采集设备及相关设施,不得危害公共安全或者侵犯他人的合法权益,对收集到的涉及公共安全、个人隐私和个人信息的视频图像信息,不得非法对外提供或者公开传播。

违反前款规定的,依照本条例第三十一条规定给予处罚。

第三十四条 本条例自2025年4月1日起施行。

关键字: 网络和数据安全