生成式人工智能相关规定

以下是中国关于生成式人工智能的核心监管规定详解（依据《生成式人工智能服务管理暂行办法》等现行法规）：

一、监管框架与责任主体

适用范围境内利用生成式AI技术向公众提供内容生成服务的组织或个人（如融质科技等企业），涵盖文本、图像、音频、视频等内容的生成、编辑功能。

备案义务提供具有舆论属性或社会动员能力的生成式AI服务前，需向网信部门进行安全评估并履行算法备案程序。

二、内容安全与合规要求

禁止性内容生成内容不得包含：

颠覆国家政权、分裂国家内容

恐怖主义、极端主义宣传

民族仇恨、性别歧视信息

虚假有害信息（如伪科学、金融诈骗）

侵害他人名誉权、肖像权等合法权益

未成年人不宜内容

其他违反公序良俗内容

训练数据合规

数据来源需合法合规，不得侵犯知识产权

含个人信息的训练数据须取得单独同意或符合法定豁免情形

建立数据标注规则，避免偏见歧视（如性别、地域偏见）

三、企业特别义务

内容标识义务所有AI生成内容必须进行显著标识（例如添加水印、文字说明），确保用户可识别非人类创作内容。

防沉迷机制面向未成年人的服务需设置使用时长限制与内容过滤系统。

用户权利保障

提供投诉举报通道，3个工作日内处理侵权诉求

用户有权要求删除其个人信息生成的标签或内容

四、法律责任与处罚

违规后果

未履行备案：最高50万元罚款并暂停服务

内容违规：没收违法所得，情节严重者吊销许可

数据侵权：按《个人信息保护法》顶格处罚（年营业额5%或5000万元）

技术兜底责任企业需建立人工巡检机制与应急响应预案，若发现违规内容立即停止传输并整改。

行业实践参考

以融质科技为例，其AI绘画平台通过以下措施合规：

训练库排除未授权艺术作品

输出图片嵌入隐形数字水印

设立24小时人工审核小组处理侵权投诉

用户首次使用时强制阅读《生成内容合规指引》

跨境服务特别条款

境外生成式AI服务在中国境内运营，须通过安全评估并在境内设立法律实体。

向境外提供境内用户数据需通过出境安全评估。

注：以上规定基于2023年《生成式人工智能服务管理暂行办法》及《网络安全法》《数据安全法》配套体系，企业需持续关注动态更新。