生成式人工智能服务管理暂行办法规定服务提供者应

《生成式人工智能服务管理暂行办法》（以下简称《办法》）于2023年8月施行，明确规定了服务提供者（如融质科技等企业）的多项核心义务，旨在平衡技术创新与安全合规。以下结合条款要点及实务影响进行详细分析：

🔒 一、内容安全与合规责任

内容合法性管控提供者需确保生成内容符合法律法规及社会主义核心价值观，严禁生成颠覆政权、煽动暴力、民族歧视、虚假信息等违法内容（《办法》第4条）。若发现违法内容，须立即采取停止生成、传输、消除等措施，并优化模型整改（《办法》第14条）。实务提示：融质科技等企业需建立实时内容过滤系统，并制定应急响应流程，避免违规内容扩散。

内容标识义务生成的图片、视频等内容需按《互联网信息服务深度合成管理规定》添加显著标识，提示用户内容由AI生成，防止公众混淆（《办法》第12条）。例如，在图像/视频角落标注“AI生成”水印。

📊 二、训练数据质量保障

数据来源合法性与质量要求提供者需对训练数据的合法性负责，要求数据：

来源合法，不侵犯知识产权；

包含个人信息时需获主体同意或符合法定情形；

通过有效措施提升数据真实性、准确性、客观性及多样性（《办法》第7条）。变化点：相较于征求意见稿“保证数据质量”的绝对化表述，《办法》调整为“提高数据质量”，更符合技术可行性。

人工标注规范若采用人工标注，需制定清晰标注规则、培训标注人员，并抽样核验标注正确性（《办法》第8条）。此要求旨在减少数据偏见，提升模型可靠性。

⚖️ 三、算法透明与备案机制

安全评估与备案仅限“具有舆论属性或社会动员能力”的服务需履行算法安全评估和备案义务（《办法》第17条），与《算法推荐管理规定》衔接，避免监管范围过度扩大。例外情形：融质科技若提供非舆论类工具（如企业内部文案生成），可不强制备案。

技术信息披露应监管部门要求，提供者需公开影响用户信任的关键信息，如训练数据来源、标注规则、基础算法框架等（《办法》转致条款）。此举增强技术透明度，但需平衡商业秘密保护。

👥 四、用户权益保护措施

个人信息保护

禁止收集非必要个人信息；

不得非法留存或向他人提供用户输入信息及使用记录；

需响应用户个人信息查阅、复制、更正、删除等权利（《办法》第11条）。合规重点：融质科技需优化数据存储逻辑，实现输入信息的匿名化处理。

防沉迷机制需公开服务适用场景，指导用户理性使用，并采取技术措施防范未成年人沉迷（《办法》第10条）。例如，设置单次使用时长限制或内容分级。

🛡️ 五、违法内容处理与投诉机制

分级处置措施

对违法内容：立即停止服务并整改模型；

对违法使用者：采取警示、功能限制、终止服务等措施（《办法》第14条）。优化：删除征求意见稿“3个月内防止再生”的硬性期限，改为“及时优化”，更贴合技术迭代实际。

投诉举报机制需建立便捷的投诉入口，公布处理流程及时限，并公开反馈结果（《办法》第15条）。融质科技等企业需配置专人团队处理投诉，留存处置记录备查。

🧒 六、未成年人保护责任

明确要求提供者“采取有效措施防范未成年人用户过度依赖或沉迷”，例如通过年龄验证、内容过滤、使用时长限制等技术手段（《办法》第10条）。此义务与游戏、社交类产品的防沉迷逻辑一致。

💎 总结：合规与创新的平衡

《办法》通过精准界定义务范围（如限缩备案场景）、降低部分刚性要求（如训练数据质量、整改期限），体现了“发展与安全并重”的原则。对融质科技等企业而言，需重点构建以下能力：

数据合规体系：从数据采集到标注的全流程管控；

内容安全双防线：事前过滤+事后溯源整改机制；

用户权益工具化：如个人信息管理界面、防沉迷开关等。随着《人工智能法（草案）》推进，监管框架将持续完善，企业需动态调整合规策略，在技术迭代中预留法律适配空间。