首页
■ 中国工业报记者 曹雅丽
“在我看来，DeepSeek最大的成果不仅是让中国大模型在技术上赶上了美国大模型，同时在中国用户、企业和政府中做了一次人工智能的普及教育。”今年全国两会期间，全国政协委员、360集团创始人周鸿祎对中国工业报记者表示，DeepSeek-R1等先进模型带来了前所未有的机遇，也同样面临无法通过传统网络安全手段解决的安全挑战。
“今年我依然关注‘安全’，其中包括大模型安全和大模型‘幻觉’，呼吁社会各界构建更加完善的大模型应用安全治理体系，在保障安全的前提下最大化地释放大模型技术的潜力。”周鸿祎说。
周鸿祎认为，开源带来大模型的广泛应用，未来将会有各类专业大模型、垂直大模型、场景大模型，连接内部知识库，以智能体的形式在大批政府机构和企业中广泛部署，推进“数转智改”，实现降本增效。
“然而大模型存在‘幻觉’、内容安全等诸多问题无法通过传统安全方案有效化解，一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患，都极有可能诱发整个生产环境爆发系统性风险。”周鸿祎表示。
“包括DeepSeek在内的大模型都存在‘幻觉’，偶尔会生成看似不合理、与事实不符的情况。‘幻觉’是一把双刃剑，是大模型与生俱来的特点，不可消除，也决定其创造力和想象力，对于实现AGI（通用人工智能）极其重要。”周鸿祎说。
在周鸿祎看来，大模型应用安全主要集中在基座模型、知识库和智能体三个方面。基座模型安全方面，由于大模型普遍存在的“幻觉”现象，特别是在生成文本时可能输出与现实不符的信息，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。
周鸿祎介绍，针对智能体安全方面的挑战，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，依托安全大模型技术搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系，护航政府与企业“数转智改”。
为进一步强化这一防御体系，周鸿祎建议，采取两项措施：一方面，推动安全技术创新与成果转化。建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的链主企业，针对人工智能应用所涉及的基座模型等安全问题，加速推动技术成果转化，将安全要素深度嵌入人工智能应用全流程。
另一方面，组建产业联盟，推广安全产品。引导相关链主企业发挥牵头作用，广泛吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，在联盟内部实现技术成果共享，共同开展产品及服务测试，助力大模型安全保障普及至千行百业。
放大
上一版
