专家解读|完善人工智能生成合成内容标识方法 构建健康的信息网络生态环境

发布时间:2024-09-18 09:20:23 浏览次数:1209 来源:“网信中国”微信公众号
随着生成式人工智能技术快速发展,利用人工智能技术生成或合成文字、图像、音乐、视频、3D等数字内容成为网络空间内容的主要生产方式,不断为数字经济、产业发展甚至社会变革注入强大动力。然而,伴随内容生成合成门槛的不断降低,新技术的滥用也对网络空间治理提出了更大挑战。当前,中美欧等均探索将内容披露和标识义务入法,国内外多家互联网公司也逐步推进标识嵌入和管理举措,内容标识已然成为全球打击虚假有害信息的通行做法。为顺应这一实践趋势和产业需求,国家互联网信息办公室等部门适时发布《人工智能生成合成内容标识办法》(下称《办法》)及配套国家标准《网络安全技术 人工智能生成合成内容标识方法》(下称《标识方法》),全方位、多层次地规范人工智能内容标识要求和方法,迈出了完善我国人工智能治理制度的重要一步。
一、问题导向,破解人工智能生成合成内容新需求新风险
立足于生成式人工智能健康发展和规范应用,《办法》以问题为导向,通过系统性、创新性制度设计,全面回应了对人工智能生成合成内容标识的要求。
一是先行提出生成合成内容标识的中国方案。针对人工智能内容生成合成带来的颠覆性风险挑战,国际层面也在不断探索内容标识方法和路径。欧盟2024年8月正式生效的《人工智能法案》规定了要确保人工智能生成合成内容的透明度义务,要求平台添加强制性水印。美国加州2024年8月发布《数字内容溯源标识法案》,要求在人工智能生成物中嵌入可溯源数据,以确保内容来源的透明度。国际电信联盟2024年7月发布《检测深度伪造和生成式人工智能:人工智能水印和多媒体真实性标准研讨会的报告》,包括内容标识在内,初步探讨深度合成内容检测的标准协作安排。《办法》根植于我国发展实践,立足长远、着眼前瞻、行动快速,率先通过标准完善补充生成式人工智能综合治理机制,有力支撑了科技向善的治理理念,为世界贡献发展与安全并行的人工智能治理中国方案。
二是着力加强服务商生成合成内容标识的规范性。随着人工智能生成合成内容工具的普及化和可及化发展,技术应用的门槛较之前大大降低。早在2022年中央网信办等就发布了《互联网信息服务深度合成管理规定》(以下简称《规定》),明确指出深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。但《规定》主要明确了需要添加标识的情况,对于添加标识的位置、字型和表达并未做出具体要求,因此各类企业在实施过程中出现了文本内容显式标识不明显、难察觉,音频、视频等内容显式标识未插入、浅提示,隐式标识少信息、难校验等问题,对于落实监管提出了挑战。出台《办法》,是进一步推进生成合成内容标识工作的必要举措,对规范互联网信息服务深度合成管理、解决生成合成内容标识突出问题、推进信息网络生态环境治理意义重大,影响深远。
三是进一步完善生成式人工智能监管问责体系。生成式人工智能生成合成内容涉及多种类型的主体,清晰界定各主体义务更有利于压实主体责任,便利技术检测实施,进而落实精准问责。《办法》不仅界定了人工智能生成合成内容的基本概念,更针对服务提供者、传播平台、应用服务分发平台和用户分别规定了具体标识要求,为各相关主体落实合规指明了方向。由此,《办法》在现行责任制度作出补充,充分细化了《规定》提出的深度合成服务提供者和技术支持者行为规范,为促进新技术新应用的规范发展提供了有益范例。
二、明确要求,促进人工智能生成合成内容精细化治理
人工智能生成合成内容不仅包括文本、图像、音频、视频等多种表现形式,更在“元宇宙”等交互式、沉浸式场景中提供了更多实现方案。《标识方法》对于人工智能生成合成内容进行了全方位覆盖,并且进一步明确了《办法》要求和具体操作指引。
一是区分显式标识和隐式标识规范要求。为满足当前可感知和不可感知的两类标识方法需要,《标识方法》清晰阐述了各自的关键要素要求,对于显式标识主要围绕文字要素、位置、字型、颜色、音频节奏、视频像素和交互提示等提出要求,对于元数据和内容隐式标识提出生成合成标签要素、服务提供者要素和内容编号要素等关键指引。
二是列举显式标识典型应用场景。《标识方法》通过列举式的方式对于显式标识的应用场景做出了进一步细化,在《规定》中提到的五类显著标识应用场景之外加以补充,包括文生图片等图片内容生成服务;音乐等音频内容生成服务;文生视频、图生视频等视频内容生成服务。新列举的三类典型应用场景属于2022年后迅速发展起来的新型生成合成内容形式,尤其是ChatGPT、Sora展示出视频内容生成的强大潜能,在《标识方法》囊括此三类典型应用场景有利于针对性、前瞻性开展监管,符合生成式人工智能的技术原理与产业需要。
三是规范元数据隐式标识格式要求。此前生成合成内容隐式标识方法在不同规模、不同技术水平的企业间应用各不相同,标识的标签信息也未有一致,这就导致识别隐式标识对于监管主体和内容平台而言面临挑战。《标识方法》为解决这一问题,对于隐式标识扩展字段关键词和应包括的标签、编号、预留字段的值等添加了具体说明,为行业统一、稳定、持续落实隐式标识要求提供了有效措施。
四是展示显式和隐式标识各要求对应示例。《标识方法》以图片示例的形式对于各类显式和隐式标识要求进行了展示,有助于企业直观了解标准要求,避免因文字表述引发的模糊和歧义,从而推动行业协同落实,提升治理效能。
三、守正创新,兼顾内容生成合成服务管理与技术创新应用
人工智能生成合成技术应在安全的前提下规范使用、加速发展,以高水平的治理保障高质量发展。《办法》及《标识方法》充分考虑“用”和“管”两侧需求,最大限度减少内容标识对于用户使用的影响,推动企业自主自愿展示标识。一是提供多种标识方法,适应更多产品形态。《标识方法》对于文本内容显式标识创新提出角标形式,仅需在内容末尾加注角标“AI”即可高效满足要求,对于音频内容则首次提出音频节奏标识,在音频适当位置加入“短长短短”节奏的摩斯码表示即可达到提示作用。此类标识方法不仅对于企业而言便于打造不同产品样态,也能保障用户使用体验和认知效果,在实现监管目的的同时也为技术发展提供了有效保障。二是划分不同主体责任,精细化避风港原则适用。《办法》虽然将标识添加的责任主要施加于服务提供者和上传内容的用户,但未对传播平台和应用分发平台实施“一刀切”式的避风港规则。《办法》采取一种更为精细化的路径,详细规定传播平台应当对文件元数据中的扩展字段进行核验,提示用户生成合成内容信息,并在文件元数据中添加传播要素信息;应用服务分发平台应在应用程序上架或上线审核前核验服务提供者是否按要求提供生成合成内容标识功能。此举有助于适当调整服务提供者、使用者和传播分发平台的义务分配,避免相关平台“隐身”于深度合成监管体系,从而真正实现齐抓共管、协同共治的治理机制,有效维护健康向善的信息网络生态环境。
关键字: 人工智能

工信部、财政部、国家数据局联合印发《新材料大数据中心总体建设方案》

发布时间:2024-11-02 12:05:22 浏览次数:1060 来源:“工信微报”微信公众号
近日,工业和信息化部、财政部、国家数据局等三部门联合印发《新材料大数据中心总体建设方案》(工信部联原〔2024〕205号),明确了《建设方案》的总体要求和主要目标,规定了新材料大数据中心的定位与功能、建设任务、管理机制和运营模式以及《建设方案》的保障措施。其中,在新材料大数据中心建设任务-建立数据流通应用体系中提出,要建立数据安全保障体系,建立数据安全分类分级保护制度,加强安全技术应用,建立健全数据安全风险监测预警技术手段,开展数据管理能力成熟度评估和数据安全等国家和行业标准贯标。
关于印发《新材料大数据中心总体建设方案》的通知
工信部联原〔2024〕205号
各省、自治区、直辖市及计划单列市、新疆生产建设兵团工业和信息化主管部门、财政厅(局)、数据管理部门:
现将《新材料大数据中心总体建设方案》印发给你们,请结合实际,认真组织实施。
工业和信息化部
财政部
国家数据局
2024年10月16日
新材料大数据中心总体建设方案
新材料是战略性、基础性产业,也是高技术竞争的关键领域。数据作为新型生产要素,是关乎新材料技术创新、产业高质量发展的战略资源。为充分发挥大数据、人工智能对新材料产业的技术支撑作用,支持新材料大数据中心建设,培育材料研发与应用的全新发展模式,特制定本方案。
一、总体要求
以习近平新时代中国特色社会主义思想为指导,深入贯彻党的二十大和二十届二中、三中全会精神,全面落实全国新型工业化推进大会部署,立足新发展阶段,完整、准确、全面贯彻新发展理念,构建新发展格局,推动高质量发展,以服务国家战略为导向,聚焦汇聚共享资源,搭建新材料大数据中心总体架构;聚焦有序流通和安全共享,建立数据管理共享机制和有偿交换规则;聚焦激活数据要素潜能,增强新材料大数据技术产品有效供给应用,着力打造资源富集、高效贯通、应用繁荣、治理有序的新材料大数据生态,通过“材料+数据”助力新材料原始创新,服务新材料企业发展,培育新材料产业创新发展新引擎,加快形成新质生产力,构筑全球竞争新优势。
到2027年,材料领域数据资源汇聚能力、流通活力明显增强。搭建形成“1+N”的新材料大数据中心架构体系(1个新材料大数据中心主平台、N个数据资源节点)。探索形成公益性服务引领、市场化运作为主的稳定运营模式。形成30个以上数据资源节点、30项以上材料大数据算法软件和工具、20种以上典型关键材料和产品的数据赋能应用示范。到2035年,新材料大数据中心体系全面建成并稳定运行。实现全国材料领域数据的汇聚、处理和开发,数据规模进入国际第一梯队;持续提供引领新材料产业创新发展的大数据技术产品和服务,形成数据驱动的材料创新发展范式;建立互利共赢、良性发展的运行模式,形成市场化的可持续运营能力。
二、定位与功能
(一)定位
新材料大数据中心是促进新材料产业创新发展的新型研发基础设施,充分发挥产业数据规模优势和应用优势,通过平台、标准、技术、市场的引导,逐步实现科技、产业等材料数据的融通和应用。立足机制创新,汇聚重点企业、科研院所、高校、新材料重点平台等各类创新主体材料数据,形成新材料数据资源体系,构建新材料数据资源中心;立足协同创新,增强材料数据产品研究、应用和推广等创新链各环节创新能力,构建加速新材料应用数据产品开发的研发中心;立足成果转化,提供材料数据基础产品和定制化服务,构建大中小企业融通发展、促进产业整体能力提升的服务中心。
(二)功能
一是构建材料数据汇聚标准和融通平台。坚持统筹规划、渠道畅通、统一标准、分级管理、安全可靠,汇聚各类材料数据,建立材料数据标准规范体系和有偿交换机制,推动各类创新主体,按照“物理分散、逻辑统一”,开展材料全生命周期数据的发现、聚集和分级共享,打造辐射全国的材料数据库平台。
二是加强共性和前沿技术研究。围绕材料研发、生产、认证、应用、服役全链条,研发材料数据采集、挖掘和应用等环节的共性技术和前沿技术,突破材料大数据应用的技术供给瓶颈,提升数据赋能科技创新能力。
三是开展材料数据软件产品开发应用。聚焦国家战略、用户需求和发展趋势,支撑材料基因工程项目实施,开发应用材料新功能发现、成分优化、工艺改进等数据软件产品,提升研发效率,降低研发成本,加速前沿材料产业化应用,促进产业高质量发展。
四是提供材料数据公益服务。在符合安全规范条件下,加强公益服务供给,面向社会免费提供知识共享、数据查询、供需对接、软件开源等数据产品和服务,助力大中小企业融通发展。
五是加强材料基因领域创新人才队伍建设。注重产学研用协同人才培养模式,强化材料科学与工程、数据科学与大数据技术、人工智能等多学科融合,开展人才培养和引进,集聚培养一批高水平领军人才和青年骨干人才,为材料大数据应用提供多层次创新人才。
六是推进材料数据和技术国际合作。广泛开展国际交流,积极跟踪国际发展前沿。因应国际形势发展,通过联合研发等多种形式,强化国际合作,促进材料大数据和技术水平提升。积极参与相关国际规则、标准制定,推进材料数据标准规范建设。
三、建设任务
(一)搭建新材料大数据中心架构体系
1.建立中心主平台。统筹建门户、出标准、定规则。负责建设数据存储、灾备、交互服务器集群等硬件基础设施,以及数据管理发布、共享交互、应用服务、安全保障等系统;建立统一的数据标准规范体系、分类分级的数据安全保障体系;依场景构建无偿共享和有偿使用相结合的数据管理共享机制;收集整合公开材料数据资源,汇交公共财政支持的科技产业项目实施过程产生的数据,汇聚材料领域知识产权数据;推动数据资源节点的遴选与搭建,完善数据资源节点管理;组织开展材料数据共性和前沿技术研究,以及数据产品开发、场景建设和应用推广;牵头遴选一批算力中心,支撑新材料大数据中心稳定运行;提供基础数据查询等公益服务和知识产权服务,加强人才队伍建设,推动国际技术合作。
2.布局数据资源节点。依托优势企业、科研院所、高校、新材料重点平台等各类创新载体,负责采数据、用数据、保质量。参照《工业战略性新兴产业分类目录(2023)》新材料产业分类,聚焦先进钢铁材料、先进有色金属材料、先进石化化工材料、先进无机非金属材料、高性能纤维及制品和复合材料、前沿材料等6个材料领域,以及1个材料综合应用领域,分科技、产业和计算三类,支持建设数据资源节点。
数据资源节点主要开展重点行业、领域的材料设计、研制、应用和专用计算等数据采集积累、质量控制和可靠性评价,数据内容和指标体系构建;按照统一数据标准体系和管理共享机制,与中心主平台联结,开展数据流通、共享、交换;开展材料数据增值应用的典型场景探索和个性化数据产品开发。其中,每个领域遴选确定1-2个数据资源骨干节点,先行先试、率先联结,无偿提供具有公共属性的数据产品和服务,推动形成数据资源汇聚、共享、利用的“小核心”,充分发挥引领带动作用。
(二)建立数据流通应用体系
3.建设标准规范体系。建设材料数据采集、加工、存储、融通和应用等全链条技术标准体系;完善数据密级、数据脱敏、数据分类分级保护、重要数据识别、数据安全风险评估、数据溯源等数据安全管理技术标准规范,推进产品主数据标准建设,强化工业数据字典、数据标注等标准研制,建立多源异构材料数据标准接口协议;健全数据质量评估、价值评估、交易服务规范,共同制定国际标准。
4.建立管理共享机制。坚持“数据不搬家、产权不变动”“可用不可见、可用不可拥”,探索基于区块链、隐私计算、数据标识、数据空间等技术的统一共享服务模式,构建差异化的数据产品使用和服务机制,具有公共属性的数据产品和服务按照国家公共数据资源开发利用的相关管理规范执行,非公共属性的高值数据产品和服务,可按照市场化原则有偿使用,吸引产业链上下游共享数据,丰富数据资源;构建产权保护、共享激励、流通管理和服务保障等管理机制;建立市场化数据融通机制,打通科技、产业等数据汇聚共享通道。
5.建立数据安全保障体系。落实网络安全法、数据安全法及商用密码管理条例等相关规定,建立数据安全分类分级保护制度,加强重要数据和核心数据识别与目录备案管理,构建监测预警、风险报送、应急处置、风险评估等机制;加强数据安全防护、用户安全认证、加密传输、灾备管理等安全技术应用,提升数据全生命周期安全保障能力;建立健全数据安全风险监测预警技术手段,构建一站式材料数据资产管理与可视化监测体系,实现数据的全过程管理及各环节的安全监管;开展数据管理能力成熟度评估和数据安全等国家和行业标准贯标,切实提升数据管理能力,完善数据安全保障体系。
(三)优化新材料大数据技术应用生态
6.研发关键技术和软件。围绕材料研发、生产、认证、应用、服役全链条,研发安全可靠新材料设计仿真软件,开展材料数据实时自动采集、多中心化管理、智能检索与可视化、数据挖掘等大数据技术研发和安全可靠软件开发,面向行业或区域发展需求开发数据应用场景、数据产品和技术推广,创新突破和持续输出材料大数据关键技术和软件。
7.实施应用示范。围绕航空航天、船舶与海洋工程装备、信息通信、生物和能源产业等重点应用领域,利用安全可靠大数据技术和软件,开发成分优化、工艺改进等数据产品,开展关键材料数字化研发、生产、应用中的典型场景打造,提高全要素生产率。推动材料大数据、人工智能、区块链技术等融合发展,开发新材料发现等数据产品,加速具备优势的增材制造材料、高熵合金、超导及智能、仿生材料等发展,加快前沿材料布局。
8.创新人才队伍建设和公益服务。通过产学研协同人才培养模式,培养和引进材料科学与工程、数据科学与大数据技术、人工智能等多学科复合型人才,集聚一批高水平领军人才和青年骨干人才。在符合安全规范条件下,向社会免费提供数据查询、软件开源等数据产品。
四、管理与运营
(一)管理机制
新材料大数据中心主平台要建立开放透明的运行管理机制,组织研究提出建设总体规划和阶段性实施计划,统筹协调推进;研究建立数据资源节点分级会员制度,根据各资源节点数据数量、质量等指标,确定对非公共属性数据产品和服务的会员级别权限,构建数据资源节点内部评价和退出机制,加强对建设运营效果的评估;通过市场、标准及技术等手段,逐步打通科技、产业等相关材料数据资源的融通和应用。
(二)运营模式
新材料大数据中心主平台坚持公益性服务为主,向社会免费提供具有公共属性的材料数据查询、软件开源等基础产品,共享统计分析数据等,可根据发展需要探索商业化运营模式,加强技术推广、产品开发、标准服务、战略咨询、认证培训、会展交流、专利布局等活动,开展数据融合开发、行业应用赋能和技术联合攻关等数据要素市场化服务。充分发挥新材料大数据创新联盟作用,鼓励和引导有关单位通过无偿捐赠、购买服务等方式支持运营。
新材料大数据资源节点以商业化运营为主,重点发挥数据产品开发应用和推广功能,鼓励无偿提供具有公共属性的数据产品和服务。在建设和运营初期,聚焦重点领域开展材料数据汇聚和数据产品开发应用,优先向优势企业、科研院校、新材料大数据创新联盟成员单位提供数字化定制化服务;运营成熟期,围绕材料产业各领域开展数据汇聚和数据产品开发应用,提供新品种开发、成分优化、工艺改进等定制化数据产品,实现运营收益。
五、保障措施
(一)加强统筹协调
工业和信息化部会同国家数据局建立协同工作机制,统筹推动建立新材料大数据中心总体架构,形成功能完备、优势互补的有机整体。定期组织开展第三方评估,对新材料大数据中心建设和运行实施绩效评价。地方工业和信息化主管部门和数据管理部门组织动员有关单位,积极参与新材料大数据中心建设运营。
(二)加大政策支持力度
利用现有政策资金渠道和重大科技基础设施资源,支持新材料大数据中心建设,积极引导条件成熟、意愿强烈的单位参与新材料大数据中心建设。支持新材料大数据中心架构各级主体,承担或参与有关任务。鼓励地方出台支持新材料大数据中心建设和运营的配套政策,加大对数据资源节点建设和运营的配套支持。
(三)建立多元化资金和数据渠道
构建以企业投入为主体、金融机构为支撑、社会资本为补充的资金投入模式。鼓励金融机构按照市场化、法治化原则加大金融支持力度。支持新材料大数据中心通过股权、债权等方式吸引社会资本。鼓励相关政府投资基金按市场化原则予以积极支持。支持新材料大数据中心符合条件的相关企业上市融资。承担中央财政资金支持项目的有关单位,需主动参与数据资源节点建设,将项目实施过程中产生的材料领域数据率先向新材料大数据中心汇聚。充分发挥有关部门、地方政府等数据持有单位作用,加强数据共享与交换。
(四)加强人才激励、培养和引进
鼓励新材料大数据中心结合实际,建立健全股权、期权等人才激励和奖励机制。加大材料领域相关人才政策向新材料大数据中心倾斜。依托工程硕博士培养改革试点专项等,强化材料大数据应用创新高端人才培养,培养扶持一批材料大数据技术研发、应用服务和运营管理的高层次人才和高素质综合性团队。支持建设国家卓越工程师实践基地,培养一批新材料领域卓越工程师。支持引进海外高层次人才,鼓励开展国际人才交流合作。
(五)强化数据安全和知识产权保护运用
新材料大数据中心各相关方依据数据安全法等法律法规落实数据安全保护责任,做好风险监测、事件处置和报告等工作,强化对新技术新应用的数据安全风险研究和评估。对新材料大数据中心的核心关键专利申请,根据有关规定实施优先审查,促进专利价值实现。加大专利侵权行政裁决力度,严厉打击针对材料大数据产品的知识产权违法行为。
关键字: 新材料大数据中心