王勇 - 律师、专利代理师       

       在2020 年 5 月OpenAI宣布推出GPT-3模型的beta版本，2022年6月正式发布ChatGPT-3.5后，生成式人工智能迅速引起人们的广泛关注，已经从人工智能领域这一专业领域一跃成为人们街谈巷议的话题。2023年7月13日，国家互联网信息办公室（以下简称“网信办”）联合七部门联合发布了《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”）。

 

       本文将该《暂行办法》进行概要性解读和分析，旨在探讨它制定的背景、主要内容以及对人工智能和互联网行业的潜在影响，为生成式人工智能领域的从业者提供一定的参考和建议。

 

1.      暂行办法出台的背景

 

       生成式人工智能（也称为生成式AI技术、GAI技术 ），如基于深度学习的大规模预训练模型（GPT），已经实现了巨大的进步。这些模型能够生成自然语言文本、图像和音频，提供从文本摘要到创意写作，从艺术创作到自动化客户服务，具有无限的潜力。然而，这一技术的广泛应用也随之带来了一系列法律和伦理问题，如内容生成的道德问题、知识产权纠纷、虚假信息传播和隐私问题，引起了人们的广泛担心。从网信办在2023年4月11日发布《生成式人工智能服务管理办法》（征求意见稿），到7月13日正式颁布实施，只用了仅仅3个月的时间，这充分反映了中国政府对于生成式人工智能技术的重视。同时，以一部专门的部门法规对于人工智能的一个方兴未艾的特定的技术手段应用进行法律规制，在世界上也是罕见的，可以看出中国政府希望在这一波人工智能的发展浪潮中，能够以一种主动的，而不是被动的方式进行行业发展引导，在促进生成式人工智能技术发展的同时，制定生成式人工智能服务的基本规范，以落实《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等有关规定的要求。

 

       该《暂行办法》是我国关于生成式人工智能的重要立法，与《互联网信息服务算法推荐管理规定》（以下简称“《算法规定》”）《互联网信息服务深度合成管理规定》（以下简称“《深度合成规定》”）构成人工智能和算法领域的重要监管规定。

 

2. 《暂行办法》的主要内容

 

1) 适用范围

 

       该《暂行办法》适用于生成式AI服务的多个方面，包括但不限于自然语言生成、图像生成、文本摘要以及涉及跨境服务的情况。该法规的目标是覆盖生成式AI服务的多个应用领域，从新闻媒体到广告，从医疗保健到创意产业，以及未来可能涉及到的其他领域。

 

       该《暂行办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。同时，不同于在征求意见稿中的表述，明确将未向境内公众提供的生成式人工智能技术研发、应用行为排除在适用范围外。因此，如果生成式人工智能技术仅用于内部研发或应用，在遵守网络安全、数据安全和个人信息保护等相关法律法规的前提下，适当减轻了模型训练阶段与服务商内部运营的合规负担，体现了中国政府鼓励生成式人工智能创新发展的价值取向。

 

2) 服务提供者的义务

 

       生成式人工智能的生命周期大体可分为模型训练、应用运行和模型优化三个阶段，这些阶段涉及的主体可能包括：数据收集方，数据提供方，模型开发者，服务提供者，以及服务使用者。在实践中，数据收集方，数据提供方，模型开发者，服务提供者可能是同一个主体，但也可能为相互协作的不同实体。

 

       但是，或许是出于立法便利的考虑，在《暂行办法》只规定了两类主体，即生成式人工智能服务提供者（简称“提供者”）和生成式人工智能服务的使用者（简称“使用者”），并明确了提供者的范围，即利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。需要注意的是，不同于《深度合成规定》对于深度合成技术支持者、服务提供者与使用者的三分法，该《暂行办法》主要针对生成式人工智能的特点，围绕提供者对外提供服务的行为构建规范要求，并在责任设置方面进行了一定程度的限缩，更好地支持生成式人工智能服务的发展。至于数据提供方、模型开发者、服务提供者等主体之间可能存在的权利义务关系，可以留待将来的法规去规范，或者用其相互之间的合同义务去规范。

 

       同时，由于该《暂行办法》是部门规章，其中的一些内容已经在其上位法或者其他相关部门规章中进行了规定，比如关于遵守法律、行政法规，尊重社会公德和伦理道德的义务，对于用户个人数据、隐私数据的收集、使用和保护，数据安全，对他人知识产权的保护等，在《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等法规中都有相同的或者相应的内容。

 

       该《暂行办法》明确提出，在内容管理方面，提供者作为网络信息内容生产者，应承担网络信息安全义务；涉及个人信息时，提供者还依法承担个人信息处理者责任，履行个人信息保护义务。在训练数据方面，提供者具有处理合法性、满足质量要求、进行内容标识及算法纠偏与报告义务，以增强训练数据的真实性、准确性、客观性、多样性。在与使用者的权利义务关系中，提供者具有制定服务协议、构建合理使用与防沉迷机制、服务稳定性义务以及构建投诉举报处理机制的义务，以确保使用者能够有效使用生成式人工智能服务。另外，提供者还具有进行安全评估与算法备案、算法披露等监管义务。

 

       值得关注的是，根据该《暂行办法》，对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规规定的，国家网信部门可以通知有关机构采取技术措施和其他必要措施予以处置。因此，对于在境外向中国境内提供生成式人工智能服务，法规并没有禁止，但是，在这种服务违反中国法律法规规定的情况下，中国政府可以采取必要的措施阻断这种服务的提供。这也意味着，该暂行办法对于境外的服务提供者具有一定程度的规制作用。

 

3) 处罚措施

 

       《暂行办法》规定了违法行为的处罚措施，以确保法规的有效执行。处罚主要还是依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规；这些处罚包括：警告或罚款、暂停或吊销相关许可或者刑事责任等。但是，要注意的是，对于法律、行政法规没有规定的，有关主管部门依然可以依据职责，对于违反本暂行办法规定的，进行警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。这一规定可能是考虑到技术进步的速度很快，立法速度的相对滞后，给了相关部门的执法人员一个相对大的弹性执行空间，以对新出现的违规行为进行迅速处理。但是这种处罚缺乏明确的法律依据，相关部门执法人员的解释权可能较大或者随意，会使从业人员对其行为预期产生一种不确定性。同时，这一相对弹性宽泛的规定，不是本《暂行办法》所独有的，在《互联网信息服务算法推荐管理规定》中也有类似的规定，值得从业人员关注。

 

3. 《暂行办法》的可能影响和展望

 

       《暂行办法》规定了生成式人工智能技术的参与方的诸多义务，不仅涉及到模型的开发者，数据的提供者，也涉及利用模型提供服务的提供者以及最终的使用者，即用户。不仅要求提供者在发现使用者利用生成式人工智能服务从事违法活动时，要采取警示、限制功能、暂停或者终止向其提供服务等处置措施外，还要向有关主管部门报告，也要求了使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报上游的模型的开发者或者服务提供者。这种相互监督制约的关系，将促使生成式人工智能技术的提供者需要更多地关注伦理和法规合规性，以确保技术的道德性和合法性。但也可能会使得生成式人工智能的服务商在向公众提供服务时，为了避免用户滥用或者误用其技术导致生成的内容违规而受到处罚，可能会对用户的使用行为进行限制，或者采用技术手段限制内容的产生，或者通过人工或者技术手段对产生的内容进行监视或者过滤，这些不仅会增加服务提供者的成本或者加大技术研发难度，还会对用户的使用体验产生影响。

 

       对于《暂行办法》中规定的，提供具有“舆论属性”或者“社会动员能力”的生成式人工智能服务，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续，即备案制度，是值得人工智能参与者所重视的。其中提到的“舆论属性或者社会动员能力”的范围在网信办发布的“具有舆论属性或社会动员能力的互联网信息服务安全评估规定”中有明确的规定，即包括：开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；以及开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。因此，如果服务商提供的生成式人工智能技术中涉及上述服务，不仅要按照国家有关规定开展安全评估，还要履行算法备案手续。可以预计，凡是向中国境内提供生成式人工智能技术服务的境内外服务商基本上都会遇到安全评估和备案的问题。由于这一规定刚刚出台不久，对于中国发展生成式人工智能技术的影响，还需要一些时日观察。

 

       在短短的一年半内，涉及到人工智能技术的三个重要的部门规章，《互联网信息服务算法推荐管理规定》（2022年3月1日施行）《互联网信息服务深度合成管理规定》（2023年1月10日施行）以及本《暂行办法》，由相关主管部门分别制定和施行，可以看出中国政府希望在人工智能领域实现技术创新和经济增长的同时，更重视其社会、伦理和安全影响，并迅速回应以平衡人工智能技术的推动和相关风险，建立明确的监管框架，以监督人工智能技术的应用和研发。这反映了中国政府在面对人工智能这一新技术时的一种积极的态度，以应对不断演变的技术挑战和伦理挑战。也可以预计，随着人工智能技术的进一步发展，中国政府还会制定出其他法规来回应技术进步所带来的新问题。

 

 

作者简介：

       王勇先生于1991年毕业于上海华东师范大学计算机科学系。1994年在中国科学院计算技术研究所获硕士学位，2005年获得中国人民大学法学硕士学位。王勇先生于1994年至2006年在中国专利代理(香港)有限公司从事专利代理工作，2007年加入泛华伟业知识产权代理有限公司任高级合伙人。

 

       王勇先生的业务领域主要涉及计算机硬件、计算机软件、通信技术、半导体器件及制备工艺、自动控制及家用电器等领域。王勇先生长期从事知识产权保护的咨询、代理工作，曾代理来自国内外申请人的数千件专利申请，在专利申请文件撰写、审查意见答复、专利申请复审、专利无效、专利行政诉讼、侵权诉讼、集成电路布局保护和计算机软件保护等方面拥有丰富的经验。作为富有经验的律师和专利代理人，王勇先生曾在涉及世界多家著名跨国公司的数十件专利案件中作为指导者和主要负责律师参与诉讼。