新闻资讯

6月20日，2024世界智能产业博览会在天津开幕。会议聚焦人工智能、智能网联汽车、智能制造等年度热点议题，由世界智能产业博览会组委会指导，世界智能产业博览会组委会秘书处、中国新一代人工智能战略发展研究院、中国软件行业协会、中国网络空间安全协会共同主办。与会发布“Find智能科技创新应用优秀案例”，百度大模型安全解决方案荣获“2024世界智能产业博览会“Find智能科技创新应用优秀案例”典型案例。

2024世界智能产业博览会“Find智能科技创新应用优秀案例”旨在发现和表彰智能科技领域的杰出典范，同时激励智能技术更加深入融合于各行各业，推动产业数字化、智能化转型。本次评选聚焦“智能制造”、“智能网联汽车”、“智能网络安全”三大领域，评审团由40余位智能科技领域中外知名院士专家构成。经过层层筛选，百度大模型安全解决方案凭借较强的应用价值和实效性，以及强大的市场潜力和广泛的推广前景，荣获“Find智能科技创新应用优秀案例典型案例”。

当下，“人工智能+”已成为催生新质生产力的重要引擎，大模型在加速产业升级和经济增长的同时，也为网络安全带来了全新的机遇与挑战。2023年，基于文心大模型安全实践经验，百度安全推出以AI安全为核心的大模型安全解决方案，从大模型全生命周期视角出发，方案涵盖大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段所面临的安全风险与业务挑战，提供全流程的包含数据安全与隐私保护方案、模型保护方案、AIGC 内容合规方案、以及业务运营风控方案的安全产品与服务，同时结合以攻促防守的思路建立AIGC 内容安全蓝军评测能力，对大模型实现例行化的安全评估，助力企业构建平稳健康、可信可靠的大模型服务。

基于面向开放对话与生成场景的内容风险识别技术，百度大模型安全解决方案在针对用户提问内容与模型生成内容，自主构建契合大模型场景的语义理解、红线必答、红线模型等功能模块，在传统内容审核的基础上，增加识别注入攻击、诱导类攻击、多轮对话恶意指代等高级攻击行为的能力，并且针对社会主义常识类问题，提供准确且高质量的回复内容，避免大模型出现幻觉；对于不良价值观、违法犯罪类问题，可以提供错误指正及正向引导的回复内容，全方位保障对话场景内容的准确和健康，辅助提升大模型回复质量。

除此之外，百度大模型安全解决方案还构建了面向第三方服务厂商的内容安全防护体系，提供Prompt审核改写、红线知识库精调及AIGC多模态内容审核等服务，确保各类输出内容不违法违规、不违反价值观、无侵权风险，全方位守护AIGC内容的安全性与合规性。

作为人工智能领军企业，百度高度重视大模型安全风险防范的能力建设和生态建设。面对当下“大模型+安全”所面临的新形势、新机遇、新挑战，百度将不断拓展人工智能技术在网络安全领域的技术革新与应用，与各界保持合作，共筑大模型安全防线，并以实践经验推动相关标准的建设，助力构建完善的人工智能安全保障体系，探索更安全的大模型落地千行百业的无限可能。

活动预告：百度安全将于6月28日WAVE SUMMIT深度学习开发者大会2024“智变应用 码动产业”平行论坛上，发布最新的端侧大模型安全解决方案，敬请期待。