大模型渗透率提升，全国政协委员周鸿祎建议“以模制模”防范安全风险｜两会声音
华夏时报（www.chinatimes.net.cn）记者 石飞月 两会报道
今年春节期间，DeepSeek在全球异军突起，成了AI发展史上的重要节点。然而作为基座模型，DeepSeek不可避免地存在幻觉、提示注入攻击等问题，此外，大模型要在企业内部真正发挥作用，还需要连上企业的专业知识库、打造智能体、调用企业各种IT系统，这进一步加剧了安全风险。
因此，当大模型渗透率提升时，解决应用安全问题也迫在眉睫。今年全国两会期间，全国政协委员、360集团创始人周鸿祎建议，应由既懂安全又懂AI的企业牵头，“以模制模”防范风险，与此同时，在大模型产业高速发展的过程中，不能因为大模型的幻觉问题就因噎废食，由此，周鸿祎还呼吁国家对大模型发展实行柔性监管，更加包容审慎。
利用安全大模型检测和防范
“DeepSeek是真火，不是虚火，因为它确实解决了人工智能大模型从‘不可用’到‘凑合用’，再到‘完全可用’和‘能用’的阶段。”周鸿祎说。从普通用户到个人开发者，从云服务商到大模型厂商，从国企到政府部门，DeepSeek在短短一个多月的时间内已经“攻城略地”。
用户越来越多，安全问题也越发凸显。周鸿祎总结道，人工智能的安全问题，对DeepSeek来讲至少分成四个层面：智能体的安全、知识数据的安全、客户端的安全，还有基座模型的安全，构成一个人工智能安全新领域。
面对这些问题，周鸿祎认为，传统网络安全已经无法应对新挑战，因此他建议应由既懂安全又懂AI的企业牵头，“以模制模”，通过打造安全大模型来解决大模型的应用安全问题。
至于要如何实现“以模制模”，周鸿祎对《华夏时报》记者表示，作为兼具数字安全和AI双重能力的科技企业，360很早开始关注大模型安全风险，提出“以模制模”理念，利用安全大模型来检测和防范大模型可能出现的安全风险。
据介绍，针对以DeepSeek为代表的国产大模型厂商面临的安全挑战，360推出了大模型安全解决方案，锚定系统安全、数据安全、内容安全、幻觉问题、行为失控五大挑战，对症下药，守护DeepSeek大模型训练、推理和运营全流程，为全球人工智能技术治理提供“中国方案”。比如，针对大模型系统安全问题，360智鉴以全链路、精细化和动态进化的检测能力为核心，融合红蓝对抗思路和大模型自身技术优势，覆盖了从数据清洗、模型训练、模型推理、部署上线整个生命周期中的系统安全检测，保障大模型系统的可靠性与业务稳定性。
不仅是大模型厂商面临着安全挑战，周鸿祎指出，在传统行业纷纷进行数转智改的背景下，越来越多的企业开始打造自己的安全体系，但我国安全行业内卷严重，很多厂商只是一味卖硬件软件，客户也无法得到想要的安全服务，致使行业面临普遍性经营困境，造成客户和厂商双输的局面，同时，各种高级别攻击日益严重，企业不只需要一个“安全盒子”，更需要高级网络安全专家协助进行数据分析研判、数据追踪及事件处置。
“为了解决这个困境，国外很早就通过SaaS的方式来为更多企业提供安全服务，企业不仅可以直接体验安全服务效果，投入成本也降到了五分之一甚至十分之一。”周鸿祎呼吁，国家从政策上支持采购安全服务，特别是鼓励采购SaaS化安全服务，实现安全的普惠。
对 “幻觉” 采取柔性管理策略
不过，无论是上述提到的哪种安全问题，在周鸿祎看来，都不是最大的不安全，在大模型产业高速发展的过程中，不发展才是最大的不安全，不能因为大模型的幻觉问题就因噎废食。
大模型作为新生事物，其本身在快速发展的过程中，难免出现一些过去未能预料到的“新问题”，例如包括DeepSeek在内的大模型都存在“幻觉”，偶尔会生成看似不合理、与事实不符的情况，由此也产生了一些争议。
周鸿祎对本报记者表示，“幻觉” 作为大模型的固有特性，犹如一把双刃剑。“一方面，它无法从大模型中根除，并且在很大程度上奠定了模型的创造力与想象力根基，是迈向通用人工智能（AGI）之路上的关键要素。这就如同人类一样，若缺失了虚构、想象的能力，创造力便会枯竭，而能力出众的大模型往往伴随着更多的 ‘幻觉’ 产出。”
从积极维度来看，周鸿祎举例称，在科研前沿，大模型凭借 “幻觉” 能够大胆畅想新药分子、蛋白质结构，为科研人员开辟新思路，打破传统认知局限；而在文艺创作领域，它能突破常规，勾勒出新奇场景、编织出奇幻情节，让作品充满创意与惊喜。但在医疗、法律、金融这些对精准度要求极高的领域，“幻觉” 引发错误的风险不容小觑。
因此，就像“避风港原则”曾带给互联网巨大的产业发展机会，周鸿祎呼吁国家对大模型发展实行柔性监管，更加包容审慎，这样中国人工智能才能借助DeepSeek的机会实现更长远的发展。
“鉴于大模型发展与国家发展息息相关，不应因过度执着于准确性而束缚其创新活力。”周鸿祎对本报记者说，因而有必要对 “幻觉” 采取柔性管理策略，营造包容开放、鼓励创新的环境，助力更多企业复制DeepSeek的成功范例，对此不妨参考过往 “避风港原则” 的实践智慧，在监管大模型及其关联产品、服务时，以适度包容的态度对待 “幻觉” 问题，对于一些因“幻觉”引发的一般性差错，避免简单粗暴地关停、下架，而是给予企业自纠的时间与空间，激发企业创新热情，让它们敢于放手一搏、踊跃竞争，推动行业蓬勃发展。
此外，周鸿祎表示，也可以通过技术手段解决大模型幻觉问题，例如360推出的大模型可信增强（AISO）工具“360智搜”，可融合多模态检索与语义理解技术，能够提供精准的搜索结果，并支持基于企业私域数据的知识提炼与总结。
责任编辑：黄兴利 主编：寒丰
查看更多华夏时报文章，参与华夏时报微信互动（微信搜索「华夏时报」或「chinatimes」）
