权威发布生成式人工智能服务管理暂行办法解读课件.pptx

1、本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字五学习解读2023年生成式人工智能服务管理暂行办法主讲人：XXX 时间：20XX.XX生成式人工智能服务管理暂行办法本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法前言生成式人工智能服务管理暂行办法（以下称办法），是国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门于2023年7月13日联合公布，自2023年8月15日起施行的办法。办法旨在促进生成

2、式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。办法根据中华人民共和国网络安全法、中华人民共和国数据安全法、中华人民共和国个人信息保护法、中华人民共和国科学技术进步法等法律、行政法规制定。出台办法，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。学习解读生成式人工智能服务管理暂行办法在此输入文字六目录办法的出台背景一办法的解读问答二办法的全文学习三本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载

3、使用，不得转卖。学习解读生成式人工智能服务管理暂行办法在此输入文字六办法的出台背景一本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 出 台 背 景本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。学习解读生成式人工智能服务管理暂行办法在此输入文字六办法的解读问答二本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法

4、 的 解 读 问 答问：办法的适用范围是什么？答：办法规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法坚持的

5、主要原则是什么？答：办法提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法中所称生成式人工智能技术和生成式人工智能服务提供者是指什么？答：办法中所称生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术；生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（

6、包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法对促进生成式人工智能健康发展有哪些考虑？答：办法在治理对象上，针对生成式人工智能服务。在监管方式上，提出对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。在促进发展具体措施上，一是明确鼓励生

7、成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。二是支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力

8、和数据资源。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法明确提供和使用生成式人工智能服务应当遵守哪些规定？答：办法明确提供和使用生成式人工智能服务应当坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；在算法设计、训练数据选择、模型生成和优化、提供服务

9、等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法规定的治理制度主要有哪些？答：办

10、法明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。此外，明确了数据标注的相关要求。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法主要明确了哪些生成式人工智能服务规范？答：办法要求采取有效措施防范

11、未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当按照互联网信息服务深度合成管理规定对图片、视频等生成内容进行标识。规定提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取有关处置措施，保存有关记录，并向有关主管部门报告。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 解 读 问 答问：办法对投诉、举报作了哪些规定？答：办法规定提供者应

12、当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。明确使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。学习解读生成式人工智能服务管理暂行办法在此输入文字六办法的全文学习三本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习生成式人工智能服务管理暂行办法第一章

13、 总 则第一条 为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据中华人民共和国网络安全法、中华人民共和国数据安全法、中华人民共和国个人信息保护法、中华人民共和国科学技术进步法等法律、行政法规，制定本办法。第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学

14、习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家

15、、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；（四）尊重他人合法权益，不得危害他人

16、身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。第二章 技术发展与治理第五条 鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据

17、资源建设、转化应用、风险防范等方面开展协作。第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：（一）使用具有合法来源的数据和基础模型；（二）涉及知识产权的，不得侵害他人依法享有的知识产权；

18、本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；（五）中华人民共和国网络安全法、中华人民共和国数据安全法、中华人民共和国个人信息保护法等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。第八条 在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注

19、规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。第三章 服务规范第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。第十条 提供者应当明确并公开其服

20、务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。第十二条 提供者应当按照互联网信息服务深度合成管理规定对图片、视频等生成内容进行标识。第十三条 提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。本作品由远近团队制

21、作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。第

22、四章 监督检查和法律责任第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照互联

23、网信息服务算法推荐管理规定履行算法备案和变更、注销备案手续。第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规

24、和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字八学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习第二十一条 提供者违反本办法规定的，由有关主管部门依照中华人民共和国网络安全法、中华人民共和国数据安全法、中华人民共和国个人信息保护法、中华人民共和国科学技术进步法等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。构成违反

25、治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。第五章 附则 第二十二条 本办法下列用语的含义是：（一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。（三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字七学习解读市场监管总局印发生成式人工智能服务管理暂行办法 办 法 的 全 文 学 习第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。第二十四条 本办法自2023年8月15日起施行。本作品由远近团队制作，欢迎下载使用，不得转卖。本作品由远近团队制作，欢迎下载使用，不得转卖。在此输入文字五学习解读2023年生成式人工智能服务管理暂行办法主讲人：XXX 时间：20XX.XX生成式人工智能服务管理暂行办法