《办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。而在《征求意见稿》第二条中，只要是向境内用户提供服务，不论是“研发”生成式AI还是“利用”生成式AI，都属于监管范围。《征求意见稿》还将生成“代码”也归入监管范围，《办法》则在列举生成式内容时没有提到“代码”。从这一部分看，《办法》相比《征求意见稿》缩小了监管范围。

值得注意的是，《办法》规定，国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。这意味着，这几个行业的监管将存在例外。

而行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。而在《征求意见稿》中，没有提到“发展和安全并重、促进创新和依法治理相结合”。

国家网信办有关负责人指出，一是明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。二是支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

其中，“促进算力资源协同共享”、“公共训练数据资源平台建设”、“推动公共数据分类分级有序开放”，“扩展高质量的公共训练数据资源”，相比《征求意见稿》都是新增内容，凸显出推动技术发展的鼓励态度。

这包括：使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

《办法》提出，在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

在总则部分，《办法》提到，“提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。”相比《征求意见稿》，“透明”和“可靠”都是新提法。另外，《征求意见稿》要求AI生成的内容不得包含“虚假信息”，《办法》则限定为“虚假有害信息”，相当于放宽了对生成内容的要求。《征求意见稿》还要求提供生成式人工智能服务方单方面“采取措施以防止生成虚假信息”，这一条没有出现在《办法》中。

这部分的重点内容包括，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。值得注意的是，《征求意见稿》要求“用户提供真实身份信息”，这一点在《办法》被删除。

此外，提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

同时，提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

提供者还应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

《办法》规定，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。而《征求意见稿》要求服务提供者在发现生成违法内容时停止生成并对模型重新优化训练，相比之下，《办法》中新增了“向有关主管部门报告”。

《办法》明确提出，国家网信办、发改委、教育部、科技部、工业和信息化部、公安部、国家广电总局等部门，依据各自职责依法加强对生成式人工智能服务的管理。国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。而在《征求意见稿》中，仅多次提到“网信部门和国家有关部门”，这意味着，具体有哪些“有关部门”参与监管在《办法》中得到了明确。

《办法》第十七条规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。值得注意的是，《办法》明确生成式AI实施算法的“备案制”，这与此前预期的审核许可制不同，有媒体近日报道称，会对所有大模型实施发证发牌照，这一说法并未出现在《办法》中。

《办法》还提到，参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。

对来源于中国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

在法律依据上，提供者违反《办法》规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

值得注意的是，《征求意见稿》第二十条中对违法情节严重或拒不改正者处以1万到10万元罚款的内容在《办法》中被删除。

《办法》出台之时，正值国内“群模”涌现。以ChatGPT为代表的生成式人工智能，除了在海外引发微软、谷歌和Meta等科技巨头的激烈竞争，也在国内激起了“大厂”间的“AI军备竞赛”，催生了多家初创企业的诞生。中国科学技术信息研究所所长赵志耘今年5月发布《中国人工智能大模型地图研究报告》称，据不完全统计，中国10亿级参数规模以上大模型已发布了79个。在刚刚结束的2023世界人工智能大会上，有30余个大模型对外亮相。

生成式人工智能的监管已经成为全球高度关注的议题。欧盟正在推进其《人工智能法案》的最后立法进程。美国白宫和议会正在加紧与AI头部企业磋商，预计在今年夏天推出一系列措施。英国竞争监管机构今年5月也表示，将开始审查人工智能对消费者、企业和经济的影响，以及是否需要新的监管措施。日本预计将在2023年底之前出台监管措施。联合国秘书长安东尼奥·古特雷斯则在6月表态，支持建立像国际原子能机构这样的人工智能监管机构的提议。