董煜：小视频侵权行为评定需找寻均衡，防止“一刀切”，

热点 | 生成式人工智能服务管理办法征求意见，业界专家各抒己见

车水马龙的街道、胸有成竹的男人......随着ChatGPT等生成式人工智能的不断升温，爆出了一个又一个好玩的“梗”，甚至有人开玩笑说“AI一本正经的胡说八道”。

AIGC（人工智能生成内容）赛道，迅速成为全球热点话题，各国对于AIGC合规性的重视正在推动相应的监管措施出台。据悉，目前，国内很多头部科技企业，纷纷宣布布局AIGC产业。

近日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）公开征求意见。

《征求意见稿》总计21条，对生成式人工智能服务给出了较为详尽的规定，涵盖从生成式人工智能的定义，到服务商的准入，到算法设计、训练数据选择、模型直至内容，以及用户实名和个人隐私、商业秘密等方面。

这意味着，当下爆火的AIGC产业很快将迎来首份管理办法，这备受业界专家关注，引发了一波题讨论。

刘晓春：建议对AIGC“有条件容错”

《征求意见稿》第四条提到：“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。”

“这一规定目前受到很多人关注”，中国社会科学院大学法学院副教授、互联网法治研究中心执行主任刘晓春介绍，从实践角度看，生成内容的真实准确性与生成式人工智能的技术原理是互相冲突的，人工智能生成内容并不是从知识库中搜索并拼凑出结果，而是通过计算机算法得来的。所以，对于生成信息的真实准确性，会存在一些不可避免的技术限制。

以ChatGPT为例，当问到AI不知道的问题时，AI会“一本正经的胡说八道”。真正的人工智能一定会犯错，因为它学习了很多知识，机器在推理过程中会产生突变。立法需要给予一定的包容空间，像看待人类学习进化一样去看待生成式人工智能的发展。

刘晓春表示，大模型服务提供者有责任积极采取与技术发展水平相适应的风险预防措施，及时响应监管要求，对权利主体提出的合理诉求给出及时的回应。如果按照规定执行，可以明确大模型服务提供者的具体治理义务，在其尽到与技术发展水平相应的义务的情况下，给予一定的免责规则。

董煜：数据规模决定生成质量

《征求意见稿》第七条提到：“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应当保证数据的真实性、准确性、客观性、多样性；”

清华大学中国发展规划研究院执行副院长董煜指出，大模型离不开数据的训练，如果对于训练数据作出过于严苛的规定，将阻碍大模型的发展速度。数据训练的规模会决定人工智能生成内容的质量，数据的数量和质量比算法和模型更重要，美国可以做出ChatGPT，很大程度上在于美国对于全世界数据的收集和掌握。从欧盟、美国、韩国、日本等国家针对预训练数据合法性的要求来看，为了支持大模型的发展，他们允许使用各种出版物对生成式人工智能训练数据进行分析。因此，如果由于真实性、版权等问题无法使用相关训练数据，将对人工智能技术发展带来很大的负面影响。

对外经济贸易大学数字经济与法律创新研究中心主任许可表示，作为生成式人工智能产品的基础，数据的重要性不言而喻。但如何合理设定数据的法律基线，仍有待进一步研究。作为一项正在不断迭代，国内外竞争激烈的技术领域，生成式人工智能产品的研发过程，应秉持“读书无禁区”的原则，而在向公众提供服务时则应坚持“发言须谨慎”的态度，从而实现技术创新和公共利益保障的双赢。

邓志东：建议在智能涌现能力和安全性中找平衡

《征求意见稿》第十五条提到：“对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。”

清华大学人工智能研究院视觉智能研究中心主任邓志东教授提出，在当前的社会和科技环境下，大型语言模型的参数规模，在到达一个临界值后，涌现能力变得越来越强。即使是OpenAI这样的团队，也很难解释这样的涌现现象。在这种情况下，人工智能基座大模型生成的内容往往是难以精确预测和控制的，这是生成式人工智能方法的固有缺陷之一。

邓志东坦言，通过模型优化训练的方式防止再次生成侵权内容，在技术上非常难以实现，而利用价值对齐的算法采取内容过滤等措施或可实现。如果要求生成式人工智能产品服务提供方在收到侵权问题反馈时，第一时间过滤侵权内容，并通过模型优化训练，实际上是非常困难的，人工智能立法应当在智能涌现能力和安全性中找到平衡。

高富平：明确鼓励AIGC发展

《征求意见稿》第三条：“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。”明确表达了国家对生成式人工智能产业的支持和鼓励。

华东政法大学数据法律研究中心主任高富平解读说，我国对人工智能的研发，一直采取鼓励发展的态度。此次管理办法对人工智能的监管措施，只是针对面向公众提供的人机交互式的生成式人工智能，而不是针对所有人工智能的。

高富平指出，ChatGPT等产品和应用，作为一种面向公众的高级对话式的人工智能工具，对其输出的内容具有不可控性，在给个人获取信息带来便利的同时，也引发了个人隐私、社会伦理、文化自主、社会舆论控制、内容管制等担忧。

鉴于我国此类产品仍处于研发阶段，预先引导规范起到了防患未然的作用。《管理办法》对生成式人工智能产品的开发提供了基本遵循，如应当遵守法律法规要求，遵守社会公德和公序良俗，强调训练数据的来源要合法，对产品生成的内容要负责，对此类产品的开发有积极的正向引导作用。

相关链接：

生成式人工智能的发展速度，远远超出了人们的预期和想象，引起了社会各界的关注和讨论。国家网信办迅速出台《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见，既明确了对AIGC产业的支持和鼓励，显然也想收集更多具有实践意义的建议，让法规成为保障科技创新健康发展的助推器。

公众可通过以下途径和方式提出反馈意见：

1、登录中华人民共和国司法部 中国政府法制信息网，进入首页主菜单的“立法意见征集”栏目提出意见。

2、通过电子邮件方式发送至：wajscy@cac.gov.cn。

3、通过信函方式将意见寄至：北京市海淀区阜成路15号国家互联网信息办公室网络安全协调局，邮编100048，并在信封上注明“生成式人工智能服务管理办法征求意见”。

意见反馈截止时间为2023年5月10日。

记者丨陆慧 综合报道

编辑 丨张军红

责编 丨陆慧