4月11日，国家互联网信息办公室发布《关于<生成式人工智能服务管理办法（征求意见稿）>公开征求意见的通知》，这也是国家首次针对于当下爆火的生成式AI产业发布规范性政策。
01
要点速览
1、国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
2、利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
3、利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
4、禁止非法获取、披露、利用个人信息和隐私、商业秘密。
5、利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”)，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。
6、提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
7、提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
8、用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估。
9、提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
10、提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。
11、提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
02
原文如下：
生成式人工智能服务管理办法
(征求意见稿)
第一条为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。
第二条研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。
本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
第四条提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：
(一)利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
(三)尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。
(四)利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
(五)尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
第五条利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”)，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。
第六条利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第七条提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：
(一)符合《中华人民共和国网络安全法》等法律法规的要求；
(二)不含有侵犯知识产权的内容；
(三)数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；
(四)能够保证数据的真实性、准确性、客观性、多样性；
(五)国家网信部门关于生成式人工智能服务的其他监管要求。
第八条生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。
第九条提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。
第十条提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
第十一条提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。
第十二条提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。
第十三条提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。
第十四条提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。
第十五条对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。
第十六条提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
第十七条提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。
第十八条提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。
用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。
第十九条提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
第二十条提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。
法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
第二十一条本办法自2023年月日起实施。
03
AI监管山雨欲来？
美国公开征求意见，欧洲有分歧，印度持开放态度
对于人工智能领域，全球多国都开始出现了呼吁加强监管的声音。
4月11日，据外媒报道，美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查，因为人们越来越担心这种技术可能造成歧视或传播有害信息。报道称，作为迈向潜在监管的第一步，美国商务部周二正式公开征求意见，要求就所谓的问责措施发表评论，包括是否应在具有潜在风险的新 AI 模型发布前通过认证程序等。
美国国家电信和信息管理局负责人表示，这些意见将在未来60天内被接受，将用于帮助向美国政策制定者提供有关如何处理人工智能的建议。他补充说，他所在机构的法律职责包括就技术政策向总统提供建议，而不是制定或执行法规。
当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。意大利副总理马泰奥·萨尔维尼随即在社交媒体上表示，这一禁令可能会损害国家商业和创新，希望能迅速找到解决方案，恢复聊天机器人进入意大利的权限。而在当地时间4月6日，意大利数据保护局表示，OpenAI公司将提交补救措施，在处理和验证方式上提高透明度，以解决监管担忧。
此外，英国政府日前发表了针对人工智能产业监管的白皮书。该白皮书提出了监管人工智能的新方法，以建立公众对尖端技术的信任，并使企业更容易创新、增长和创造就业机会。计划将有助于释放人工智能的好处，人工智能是未来英国重点发展的五大技术之一，已经为英国经济贡献了37亿英镑。白皮书概述了针对ChatGPT等人工智能治理的五项原则，分别是：安全性和稳健性、透明度和可解释性、公平性、问责制和管理以及可竞争性。
相比于欧洲国家对于AI发展的谨慎态度，印度方面似乎更加看重AI所能带来的巨大机会。印度电子和信息技术部日前在一份声明中表示，其已经评估了与人工智能相关的道德问题以及偏见和歧视风险，并正在实施必要的政策和基础设施措施，以在印度打造强大的人工智能产业，但不打算出台立法来监管其发展。
