作为AI行业的一员，我们常常面对着监管与创新之间的平衡考验。

国内 AIGC 概念大火的这两年，业界总存在一种声音：AIGC 产业处在蓬勃发展的关键时期，想要产业过得去，监管就应当 ” 放一放 “，让 AIGC 从业者放手去做。其实很长一段时间内 AI 行业的监管业态也确实如此。纵观目前国内与 AIGC 有关的纠纷、监管案件，多聚焦于 AIGC 服务的用户，对 AIGC 服务提供者则较为宽容。不过就在上个月初，我国某直辖市网信部门开出了该市 AIGC 服务方的首张公开罚单，针对 AIGC 服务提供者的第一波监管大潮，恐怕即将来临。

01 该直辖市首张 AIGC 服务提供者罚单是怎么开出的

事情还是出在 AIGC 服务提供者的内容审查义务上。某唱科技有限公司旗下运营有一个名为某某猴的 AI 写作平台，该平台的主要功能与其他 AI 写作平台类似——用户可以利用该平台对输入的文章进行扩写，或者用户可以输入关键字让平台针对该关键字生成相应的文章。问题就出现在这里。经过用户举报，监管部门发现某某猴 AI 写作平台可以生成法律法规禁止的内容。根据官方通告，该直辖市下属某区的网信部门认定某唱科技有限公司运营的 ” 某某猴 “AI 写作平台违规生成法律法规禁止信息，该企业未尽到主体责任义务，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等相关法律法规。

该区网信部门根据《中华人民共和国网络安全法》第六十八条之规定，给与行政警告处罚，并责令该公司嫌弃全面整改，加强内容审核，健全信息内容安全管理相关制度，暂停网站信息更新及 AI 算法生成式写作功能 15 日。

02 AIGC 生成内容审核不到位，会承担什么后果

首先飒姐团队带各位梳理这个平台因何被罚，官方通告中显示的该企业违反了《中华人民共和国网络安全法》和《生成式人工智能服务管理暂行办法》，先说网安法，该企业违反的具体法条是网安法第四十七条，即 ” 网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告 “，违反这一条的法律后果则被规定在了网安法第六十八条，该条的内容是：网络运营者违反本法第四十七条规定，对法律、行政法规禁止发布或者传输的信息未停止传输、采取消除等处置措施、保存有关记录的，由有关主管部门责令改正，给予警告，没收违法所得；拒不改正或者情节严重的，处十万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照，对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。

换言之，该条实际上给了运营者一个改正的机会，第一次违法，只要问题不严重，没有出现重大舆情（即认定情节不严重），那么主管部门会责令违法企业改正、给予警告，没收违法所得。只有当第一次受到处罚后依然出现问题（认定为拒不改正）或第一次违法已经造成了重大舆情影响等严重的后果（被判定为情节严重），那么最严重的后果就是吊销营业执照、吊销相关业务许可证。

那这是不是说明 AIGC 平台生成法律法规所禁止的信息，平台运营者最多就会受到行政处罚，不涉及到犯罪？显然不是。《中华人民共和国网络安全法》第七十四条规定：违反本法规定，构成犯罪的，依法追究刑事责任。具体构成什么犯罪呢？如果 AIGC 服务的提供者拒不履行信息网络安全管理义务，且监管部门责令采取监管措施后仍然不改正，致使违法信息大量传播的，就会构成我国刑法第二百八十六条之一拒不履行信息网络安全管理义务罪，可处以三年以下有期徒刑、拘役或管制，并处或单处罚金。

03 AI 大模型数据训练的规定与实操经验

飒姐团队在与 AIGC 从业者交流过程中发现从业者多数有过这样的抱怨：AI 生成的内容确实无法控制，有时生成了违法信息，我们发现肯定会删除，但根本不可能根治，这样如果还被处罚那就太冤了。

这个情况确实存在，但那是前两年。实际上，” 大模型备案 ” 不就是应对这种情况产生的机制吗？我们所说的 ” 大模型备案 ” 就是《生成式人工智能服务安全基本要求》里规定的生成式人工智能（大语言模型）上线备案。这个机制在 2023 年 9 月前的叫法是 ” 大模型双新评估 “。大模型备案需要准备的材料中就有 ” 安全自评估报告 “” 关键词拦截列表 “” 评估测试题集 “。其中关键词拦截列表和评估测试题集就是为了应对大模型违规生成禁止内容而准备的。

飒姐团队查了一下这次被处罚的 ” 某某猴 “AI 写作平台，果然在国家网信办今年 3 月发布的大模型备案信息公示中并没有该平台。这也不奇怪。毕竟如果真的进行了大模型备案，关键词拦截列表和评估测试题都经过充分评估，那基本是不可能生成违法内容的，也就不会出现后来的行政处罚了。

04 写在最后：AIGC 平台如何做到内容合规

飒姐团队经常开玩笑说，越是新兴的行业，越要注意合规。当年的 P2P 如此，现在 Web3、AIGC 行业也是一样。毕竟 20 年前的某部电影就告诉了我们这样的一个道理：” 出来混，迟早要还。” 很多时候 AIGC 从业者抱怨上线一个 AIGC 平台又要经过评估又要经过备案，一个算法备案还不行，还得有所谓的 ” 大模型备案 “。其实这些评估和备案，最终是为了保障从业者自身的安全。一旦经过了这些备案，大模型仍然生成了违规内容（这种情况理论上是可能的，虽然微乎其微），那么 AIGC 服务的提供者也可以得到 ” 避风港 ” 的庇护。毕竟在 ” 内容合规 “” 主体责任 ” 为王的当下，做到合规，就是保护了自己。

因此，通过加强内容审核和大模型备案，确保AI生成内容的合规性，不仅是行业规范，也是对企业自身长远发展的保障。