当前位置:首页>融质AI智库 >

周鸿祎:企业AI安全管控的道防线

发布时间:2025-06-05源自:融质(上海)科技有限公司作者:融质科技编辑部

周鸿祎作为360集团创始人及全国政协委员,长期关注企业AI安全管控问题,提出需构建多维度的防御体系。以下是其核心观点及解决方案的结构化总结:

一、技术防线:以模制模,重塑安全体系 安全大模型赋能

提出“以模制模”理念,利用安全大模型检测和防范大模型自身的安全风险(如幻觉、注入攻击等),覆盖传统安全威胁与AI新型风险。 360研发的安全大模型整合20年安全大数据、专家经验及5000卡算力资源,已应用于政府、能源、金融等关键行业,实现安全防御智能化升级。 AI红客对抗AI黑客

构建安全专家智能体“AI红客”,通过无限复制和高效响应能力,对抗AI黑客发起的自动化攻击,提升企业安全运营效率。 二、监管防线:柔性治理与容错机制 辩证监管策略

倡导“避风港原则”,在坚守安全底线前提下,对因技术特性导致的一般性失误给予容错空间,鼓励创新。 推动制定大模型安全标准体系,规范内容安全、数据安全及科技伦理,降低系统性风险。 平衡安全与创新

强调监管需动态适应技术发展,避免过度限制AI产业化进程,例如通过矫正机制管理“AI幻觉”问题,而非完全消除。 三、生态防线:行业协作与联盟共建 大模型安全联盟

牵头成立大模型安全联盟,联合科研机构、企业及用户,共享技术成果并研发安全产品,推动AI安全生态建设。 通过联盟测试成熟方案后向全行业推广,降低中小企业安全门槛。 安全即服务模式

建议建设国家级数字安全公共服务基础设施,以云服务形式向企业提供高性价比的安全能力,解决中小微企业安全资源不足问题。 四、应用防线:全链路风险管控 覆盖基座模型、知识库与智能体

针对基座模型的幻觉问题,构建专业知识库并实施矫正机制;对知识库实施访问控制,防止数据泄露;对智能体行为进行监控,避免误操作引发现实风险。 场景化落地实践

在终端安全(如EDR产品)、安全运营(告警降噪、资产盘点)等场景中,通过安全大模型提升效率,例如实现分钟级APT攻击捕获。 五、战略防线:前瞻布局与全球视野 应对AI军事化与国际竞争

警惕AI技术军事化趋势,建议通过安全联盟和技术研发提升国家AI安全防御能力,避免在国际竞争中受制于人。 开源生态与国产化路径

支持DeepSeek等开源大模型发展,通过免费部署和生态合作加速国产AI技术普及,同时保障安全可控。 总结 周鸿祎提出的“道防线”体系强调技术、监管、生态、应用与战略的协同,主张以创新思维应对AI安全挑战,通过“以模制模”实现防御升级,同时推动行业协作与柔性治理,为企业AI安全管控提供系统性解决方案。更多细节可参考相关报道。

欢迎分享转载→ https://shrzkj.com.cn/rongzhiaizhiku/41539.html

Copyright © 2025 融质(上海)科技有限公司 All Rights Reserved. 本站部分资源来自互联网收集,如有侵权请联系我们删除。沪ICP备2024065424号-2XML地图