所内动态
*本文首发于LexisNexis律商联讯《中国法律透视》
引 言
1950年，图灵发表了一篇名为《计算机器和智能》的论文，探讨到底什么是人工智能，并提出了一个有趣的实验——图灵测试，掀起了第一次人工智能的浪潮。随后，人工智能浪潮起起落落，但是从没有停下前进的步伐。
2023年初，ChatGPT的横空出世，引爆了全世界对生成式人工智能(AIGC:Artificial Inteligence Generated Content)的热情，AIGC以其强大的内容生成能力和接近人类水平的“聪明”程度，给人们带来了巨大的震撼。国外商业咨询机构Acumen Research and Consulting预测，2023年全球AIGC市场规模将有望达到1100亿美元。亦有国内智库预测，2023年国内AIGC市场有望突破170亿人民币。尤其在医疗领域，预测到2025年，超过30%的药物和材料将通过生成式人工智能（AIGC的工具之一）被发现。
但是，任何技术都是一把双刃剑，生成式AIGC带给人类便捷，也带来风险。各国已经关注到生成式人工智能带来的开源合规风险、伦理规范风险、知识产权风险、网络安全风险 、数据尤其个人信息风险，纷纷加强立法，进行监管，我国也不例外。2023年7月 13日，我国通过全球首部生成式人工智能法规——《生成式人工智能服务管理暂行办法》（以下简称“暂行办法”），本文试从国内外AI监管对比，我国《暂行办法》解读和对企业合规建议三个方面进行解读，不足之处，还请批评。
亚历克斯·恩格勒（Alex Engler）指出，自2017年以来，至少已有60个国家制定和实施了某种形式的人工智能治理政策，全球治理格局随之变得复杂。全球已有39个国家和地区制定了人工智能战略政策、产业规划文件。各国和地区对人工智能的监管也日益细化至各个具体层面。对比美国、欧盟、英国、新加坡在人工智能方面的监管，我们能看出各国的监管侧重点各有不同。
国家 | 相关法律法律或政策文件 | 监管特点 |
美国 | 《生成式人工智能网络法案》 《人工智能能力与透明度法案》 《关于算法透明性和可问责性的声明》 《算法问责法案》 《人工智能风险管理框架》 | 鼓励人工智能技术创新与发展； 强调监管的科学性和灵活性。 |
欧盟 | 《欧洲人工智能战略》 《人工智能白皮书》 《人工智能责任指令》 《人工智能法案》折衷草案 | 注重保护个人权利，强调人工智能的负面影响； 分类监管、全生命周期监管； 谋求AI监管领域主导权。 |
英国 | 《人工智能伦理准则》 | 鼓励人工智能创新； 强调算法可解释性。 |
新加坡 | 《人工智能发展和治理框架范例》 | 温和且自愿的监管； 强调可解释性、透明和公平原则。 |
我国香港地区在人工智能监管也做了很多积极的探索，如《数据保护（修订）条例》、《人工智能发展战略》、《数字21战略》，香港的监管以道德监管为核心，对人工智能的发展持包容开放的态度。我国内地对人工智能的监管由来已久，散见在各个政策、法律、法规等等，从技术、伦理、产业全方位进行监管。
政策 | 《新一代人工智能发展规划》（2017年） 《国家新一代人工智能标准体系建设指南》（2020年） 《关于加强科技伦理治理的意见》 《关于进一步压实网站平台信息内容管理主体责任的意见》 《关于加强互联网信息服务算法综合治理的指导意见》 |
法律 | 《网络安全法》（2017年） 《数据安全法》（2021年） 《个人信息保护法》 《著作权法》 《反不正当竞争法》 |
法规 | 《新一代人工智能伦理规范》 《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》 《网络信息内容生态治理规定》 《生成式人工智能服务管理暂行办法》 《互联网信息服务深度合成管理规定》 《互联网信息服务算法推荐管理规定》 《信息安全技术 机器学习算法安全评估规范（征求意见稿）》 |
行业 | 《医疗器械临床使用管理办法》 《人工智能辅助诊断技术管理规范》 《人工智能辅助治疗技术管理规范》 《人工智能医疗器械注册审查指导原则》 《关于加强智能网联汽车生产企业及产品准入管理的意见》 《智能网联汽车道路测试管理规范》 |
地方 | 《上海市促进人工智能产业发展条例》 《深圳经济特区人工智能产业促进条例》 《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025）》 《北京市促进通用人工智能创新发展的若干措施》 《杭州市人民政府办公厅关于加快推进人工智能产业创新发展的实施意见》 《南京国家人工智能创新应用先导区建设实施方案》 《成都市新一代人工智能产业发展规划（2022－2025）》 |
我们需要注意的是，本次《生成式人工智能服务管理暂行办法》从征求意见到正式发布，时间之快出乎意料 。我们理解，监管部门注意到AIGC发展速度迅猛又带来许多法律风险，必须快速出台相关监管法规。但是，因为时间仓促，很多方面难以完善，本次管理办法用了“暂行”二字。根据2023年6月初国务院办公厅印发的《国务院2023年度立法工作计划的通知》，《人工智能法》的草案已经预备提请全国人大常委会审议，期待我国尽快出台一个体系完整的人工智能法律。
与欧盟等以风险预防为主的导向监管导向不同，我国采用了发展和安全并重的监管基调，且将“发展”“创新”放在“安全”和“治理”前面。整个《暂行办法》中，我们都可以看到《暂行办法》对产业政策方面的鼓励基调。如，第五条规定鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。第六条规定鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新。从这个角度看，《暂行办法》不仅仅是一部法律规范，也有产业政策的影子。
同时，《暂行办法》由国家网信办与国家发改委、教育部、科技部、工信部、公安部以及广电总局七部门联合发布，而征求意见阶段的发布单位仅有国家网信办。我们可以从这个变化推断出我国将科技发展放在重点考虑的位置，同时也能推导出AIGC高风险领域以及重点监管行业，如科技、新闻出版、影视制作、文艺创作等，有关部门将来在分类分级监管时应该也会尤其考虑这几个行业；至于分级，目前我国没有明确的规定，但是人工智能的企业可以暂时参照域外分级办法，未雨绸缪，迎接我国《人工智能法》的到来。
《暂行办法》第二条规定了监管范围，我们认为第二条是整个法规的灵魂所在。
首先，我们如何理解本条的“公众”？从搜狗百科中，我们得知公众的含义有两种，一个是广义的，公众是除自己之外的所有人，具有排己性。从狭义上来讲，公众是除自己及与自己有相当关系或一定交往的人（或团体）外的人群，具有排他性。而与自己有相当关系或一定交往的人就是自己的特殊群体，如亲戚、朋友、同学、邻居、同事、员工、合作伙伴或单位等等。就个人而言，法律意义上的公众必须是狭义上的公众。从这个概念中我们自然可以理解监管为何特意在第二条第三款将境内非公众做例外规定，豁免了企业或机构内部使用情形，不会令企业束手束脚，体现了《暂行办法》的监管基调。同时，面向境外公众、面向境外非公众不适用暂时办法。
那这里的公众是否只针对自然人，而豁免了企业？我们理解，如果豁免了企业，TO B端的服务提供者将不在《暂行办法》的规制范畴，因此从监管的角度不应该豁免企业。如果服务提供者只是针对特定的B端客户，是否可以免于本办法的监管？这个的确是值得思考的问题。
其次，如何理解AIGC技术？如何理解AIGC服务提供者？我们认为要理解这些概念，一定要结合《算法推荐管理规定》和《深度合成管理规定》，《暂行办法》里有很多条款转至《互联网信息服务算法推荐管理规定》（以下简称“算法推荐管理规定”）、《互联网信息服务深度合成管理规定》（以下简称“深度合成管理规定”）。因此要理解AIGC服务提供者，一定要与上述两个规定联动，方不致管中窥豹。我们对两个规定和《暂行办法》做了列表对比，可以很清晰的看出几者之间的关联和区别。
规制对象 | 概念区别 | |
算法推荐管理规定 | 算法推荐技术 互联网服务 | 算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术。 |
深度合成管理规定 | 深度合成技术 互联网服务 | 深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于： （一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术； （二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术； （三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术； （四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术； （五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术； （六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。 |
《暂行办法》 | 生成式人工智能服务 | 生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。 |
从列表中，我们很清楚的看到几种技术的关系，算法推荐技术＞深度合成技术＞生成式人工智能技术，这也意味着两个规定与《暂行办法》从法律角度上是一般规范和特殊规范的关系，两个规定的监管适用于AIGC服务提供者，同时对AIGC服务提供者，又有《暂行办法》的特殊规制。
不同于两个规定，《暂行办法》区分了“服务”与“技术”，规范的对象只有服务提供者，给技术留下了充分的发展空间，也避免法律制定速度跟不上技术日新月异的发展速度导致的尴尬和被动。《暂行办法》的服务既包含“向中华人民共和国境内公众提供AIGC服务”，又包含“利用了AIGC提供服务”，如个人调用ChatGPT接口，封装小程序在国内提供服务的情形。
同时，《暂行办法》中有关于模型训练、研发相关的要求，也对“通过提供可编程接口”提供服务提出监管要求，可以得出结论，《暂行办法》中的“生成式人工智能服务提供者”既包括“生成式人工智能服务提供者”，也包括“生成式人工智能技术的开发者、研发者”。
《暂行办法》对AIGC服务提供者的重点监管领域在模型和内容两方面，与征求意见稿比，《暂行办法》做了合理的调整和松绑，给予服务提供者更大的自由度。
1、模型监管阶段，企业最重要的是要合法地训练数据，依法标注训练数据，重点监管模型是否存在AI歧视、模型本身存在的风险、知识产权侵权、个人信息侵权问题以及训练数据的真实、准确、客观、多样。
对比征求意见稿，《暂行办法》在训练数据来源和训练数据质量做了松绑。如征求意见稿规定“提供者对训练数据来源的合法性负责”，而《暂行办法》第7条将其修改为“使用具有合法来源的数据和基础模型”。征求意见稿要求企业“保证数据的真实性、准确性、客观性、多样性”，《暂行办法》修改为对“采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性”。
数据来源的合法性是大家普遍关注又头疼的问题，AIGC的数据来源大部分通过爬虫，爬虫的合法性需要在不同情形不同国家去论证；如果从第三方处购买，我们为了确保数据来源合法，或进行尽调，或与数据提供方签署协议或要求数据提供方进行承诺，但是这些措施是否一定能保证数据来源的合法性从而在法律上免责，需要我们进一步探讨；如果是合成训练数据，则数据质量则是需要重点关注的问题。
2、内容监管与模型监管有一定的关联性，在这个阶段，监管则更关注内容的真实准确性、是否存在歧视、知识产权侵权、虚假信息传播、商业秘密以及个人隐私泄露的问题。
《暂行办法》在此处最大的修改是删除了征求意见稿中争议较大的“生成内容应当真实准确”要求，将其修改为了“提高生成内容的准确性和可靠性”。这样的修改反映出监管真正理解了AIGC ，所谓生成式人工智能是通过各种机器学习方法从数据中学习抽取对象的内核特征，进而生成全新的、完全原创的内容的AI。比如ChatGPT是以大数据为原料，通过强化训练和深度学习，具备了类似神经网络的反馈纠错机制，能够根据用户的具体需求创造新的内容，ChatGPT不是搜索引擎，生成内容是没有办法保证真实准确。前不久，美国律师在诉讼案件中引用了ChatGPT搜集的案例，最后发现其案例全是子虚乌有的事件就说明了该律师完全没有理解什么是生成式人工智能。
《暂行办法》第17条规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当开展安全评估，履行算法备案手续。算法备案和安全评估是保障AIGC合规的重要环节，同时也成为了监管的最主要抓手。
就算法备案而言，生成式人工智能应在互联网信息服务算法备案平台（beian.cac.gov.cn）进行生成合成类算法备案，根据《互联网信息服务算法推荐管理规定》，企业在提供算法服务后的10个工作日内，需通过互联网信息服务算法备案系统进行填报和备案手续，备案内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。
关于安全评估，也即实务中所说的“大模型双新评估”，已经成为了AIGC产品合规最难以逾越的障碍。据我们观察，颗粒度非常细致，评估内容复杂，还有专门的产品测试环节。评估报告的页数动辄几百页，非为企业独立可以完成的工作，建议AI大模型的企业尽早引入专业第三方机构参与评估。另外，各部门、法规中散见乱花迷眼的种种安全评估，给企业带来了适用困境，相信未来随着监管水平提高和统一《人工智能法》的颁布，相应问题都会明确。
我们推测，我国未来对人工智能的监管将进一步细化，呈现分行业、分场景、分应用、分平台、分技术的区别化监管体系，并通过差异化的技术标准与规范，为人工智能应用的发展提供多层次成体系的监管举措。
企业在为AIGC快速发展欢呼时，也应审慎、积极地拥抱监管，及时建立合规 制度、完善内部监管机制、健全配套伦理审查、定期评估等。
首先，企业应制定AIGC合规管理制度。企业应建立针对AIGC的内部合规管理机制，加强内部培训，增强风险意识，在遵守法律法规的前提下开展业务，合法合规发展。
其次，企业应完善内部监管机制，可采取阶段性监管举措。第一个阶段可以称为模型训练阶段，该阶段重点是在提供产品或者服务之前，完成“评估”和“备案”两个必备动作。第二个阶段是向公众提供服务的阶段，这个阶段中生成式人工智能服务提供者同时也是内容的提供者，需要承担内容生产者的责任，需重视内容安全、用户管理、供应商资质审查，竭力保障数据安全与合规等。第三个阶段是事后反馈的阶段，建立完善应急处置渠道，为用户提供便捷的平台投诉举报渠道，若生成有害信息，确保数据追溯能力。
再次，应对AIGC可能面临的伦理压力，企业应建立健全伦理审查机制，采取有效措施防止出现民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。同时，履行尊重知识产权、商业道德及他人合法权益的法定义务。企业内部可专门设立算法伦理委员会等类似部门，负责科技伦理审核。
最后，应建立定期评估机制，自评估和第三方评估互相结合、互为补充。评估工作主要围绕训练数据、模型算法以及生成内容三个方向进行。
ChatGPT的横空出世，点燃了全世界人民对生成式AI的热情，但随着负面事件的不断出现，人们在拥抱新世界的热情之余，一些面对未知的恐惧、不安情绪也逐渐开始涌现。近日苹果应用商店下架整顿生成式人工智能APP和ChatGPT采取主动屏蔽措施不向大陆用户提供服务似乎也在回应着我国的监管力度与民众的不安。《生成式人工智能服务管理暂行办法》迅速出台，对过往生成式AI暴露出的负面行为画好了红线，为AIGC合规发展套上了缰绳，相信未来AIGC的发展天地将广阔而开朗。
附：《生成式人工智能服务管理暂行办法》与征求意见稿对比表
《生成式人工智能服务管理办法》（征求意见稿） | 《生成式人工智能服务管理暂行办法》 |
第一章 总则 | |
第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。 | 第一条 为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。 |
第二条 （第一款）研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。 | 第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。 国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。 行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。 |
第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。 | 第三条国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。 |
第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求： （一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。 （二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。 （三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。 （四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。 （五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。 | 第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定： （一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容； （二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视； （三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为； （四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益； （五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。 |
第二章 技术发展与治理 | |
第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。 | 第五条 鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。 支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。 |
第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 | 第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。 推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。 |
第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。 用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求： （一）符合《中华人民共和国网络安全法》等法律法规的要求； （二）不含有侵犯知识产权的内容； （三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形； （四）能够保证数据的真实性、准确性、客观性、多样性； （五）国家网信部门关于生成式人工智能服务的其他监管要求。 | 第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定： （一）使用具有合法来源的数据和基础模型； （二）涉及知识产权的，不得侵害他人依法享有的知识产权； （三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形； （四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性； （五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。 |
第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。 | 第八条 在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。 |
第三章 服务规范 | |
第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。 | 第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。 提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。 |
第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。 | 第十条 提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。 |
第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。 | 第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。 提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。 |
第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。 | 第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。 提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。 |
第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。 | 第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。 |
第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。 | 第十三条 提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。 |
第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。 | 第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。 提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。 |
第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。 | 第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。 |
第四章 监督检查和法律责任 | |
第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。 | 第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。 国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。 |
第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。 | 第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 |
第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。 用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。 | 第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。 |
第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。 | 第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。 参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。 |
第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。 法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。 | 第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。 |
第二十一条 提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。 构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。 | |
第五章 附则 | |
第二条 （第二款）本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。 | 第二十二条 本办法下列用语的含义是： （一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。 （二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。 （三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。 |
第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。 外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。 | |
第二十一条 本办法自2023年 月 日起实施。 | 第二十四条 本办法自2023年8月15日起施行。 |
