生成式人工智能监管

用户8575

用户4858

2025年2月28日修改

对象：

利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务）。​

生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。　　​

生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。​

原则：

对生成式人工智能服务实行包容审慎和分类分级监管。

国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，制定相应的分类分级监管规则或者指引。​

适用范围：

向境内提供

•
第二十条  对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。​

对数据的要求：

（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；　　​

（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。​

权益保护

•
尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为​

•
使用具有合法来源的数据和基础模型；​

数据标注

•
提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；​

•
开展数据标注质量评估，抽样核验标注内容的准确性；​

•
对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。​

个人信息保护

•
提供者依法承担个人信息处理者责任，履行个人信息保护义务​

•
提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。　　​

内容要求：

提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。​

内容合规要求

•
坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；​

避免算法歧视要求

•
在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；​

标识要求

•
按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。​

违法内容报告要求

•
提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。　　​

•
提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。​

安全评估要求

•
提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。​

生成式人工智能监管​