近日，由中央网信办、湖北省人民政府指导，武汉市人民政府主办，国家网络安全人才与创新基地、中国网络空间安全协会等单位承办的第二届“武汉网络安全创新论坛”上，百度大模型安全解决方案获颁“2024年十大优秀网络安全创新成果”奖项，荣获该奖项充分显示了百度大模型安全解决方案在业界的领先地位。

百度大模型安全解决方案获“2024优秀网络安全创新成果”

第二届“武汉网络安全创新论坛”以“融合·创新·突破”为主题，汇聚政界、学术界、产业界代表，围绕网络安全教育技术产业融合发展、人才培育及产品安全能力提升等核心议题展开深度研讨，并重磅发布了2024年度网络安全十大优秀创新成果，集中展现了我国网络安全领域现阶段的前沿进展。组委会围绕当前网络安全行业突出热点问题、难点问题和发展趋势，对人工智能安全、智能网联汽车安全、云计算安全、开源软件安全4领域的创新成果进行了征集，共征集申报成果108项，经专家层层筛选，遴选出10项优秀网络安全创新成果，百度大模型安全解决方案凭借优秀的产品能力脱颖而出。

为积极落实国家网信办等七部门《生成式人工智能服务管理暂行办法》、全国信息安全标准化技术委员会《生成式人工智能服务安全基本要求》相关要求，防范大模型全生命周期的安全风险，百度大模型安全解决方案针对大模型在训练、部署及业务运营各阶段的安全挑战，从数据安全与隐私保护、模型保护、AIGC 内容合规、业务运营风控四个维度构建了完整的解决方案。同时，结合“以攻促防”的理念，打造了 AIGC 内容安全蓝军评测能力，开展例行化安全评估，该方案产品能力广受认可。

第二届“武汉网络安全创新论坛”现场

针对大模型数据安全与隐私安全存在的诸多风险，百度大模型安全解决方案进行了专项技术升级与突破，在提供静态数据保护的同时，也为训练、分发、流转、部署、私有化交付等场景的数据资产与大模型资产安全提供了保障。另外，百度大模型安全解决方案也会对平台的基础环境、关键程序和核心资产进行数据安全风险评估，以“零信任、零改造、全流程”为理念，建立全流程密态数据围栏，确保数据在数据围栏中始终保持密文状态流通，同时基于最细粒度数据权限管控原则，通过“环境清单、数据清单、程序清单”实现进程级的数据权限动态访问控制，进而实现对语料数据、大模型文件等数据资产的全生命周期安全防护。

在大模型内容合规方面，百度大模型安全解决方案构建了分层分级治理的方案思路，通过语料清洗方案，基于文心大模型模型领先的内容理解能力，构建了通用的训练语料清洗模型，能够高效检出训练语料中的有害内容、无效内容及身份信息等隐私数据，从根本上提高模型生成内容的质量和安全性；针对模型输入输出侧，构建包含多语种安全、多轮对话安全、回复干预、输入安全、输出安全等多道大模型内容安全防线机制，全方位检测大模型线上服务全流程风险，让生成内容的风险更加可控。通过上下文语义理解模块，对用户输入的Query进行修正、改写和补全，准确识别注入、恶意指代等诱导类攻击行为；基于已经通过安全审核的、符合安全标准的指令数据对大模型进行微调，通过RLHF方式提升大模型对安全回复内容的偏好程度，引导鼓励大模型生成更加高质量的安全内容。

百度大模型安全解决方案

百度大模型安全解决方案是围绕文心大模型安全实践经验，推出的以AI安全为核心的大模型安全风控解决方案，提供全套安全产品与服务，助力企业构建平稳健康、可信可靠的大模型服务。其中的创新实践不仅体现在技术层面，更重要的是我们始终坚持将安全理念融入大模型全生命周期。从数据清洗、安全对齐、内生安全到安全围栏，构建了一套完整的原生安全体系。特别在跨模态安全治理方面，百度大模型安全解决方案通过视觉理解与文本语义的双重审核，引入区域关注、跨模态对齐等机制，有效提升了对复合内容的风险管控能力。未来，百度安全将继续携手行业合作伙伴，以技术创新推动大模型安全的健康发展。我们将在大模型安全领域持续投入，为各行各业提供更加专业、可靠的安全服务，助力人工智能产业的可持续发展，为构建更加安全可信的AI应用环境贡献力量。