产品描述
大模型内容安全Lite版本
大模型内容安全Lite版本 是一套专门面向低算力和超低算力的终端大模型安全解决方案。 为各类终端场景加载离线大模型服务时,提算力消耗低、安全能力供无损的终端大模型内容安全方案,解决离线场景下的内容安全审核与干预问题,为各类终端大模型保驾护航。
产品特点
如下图所示大模型内容安全Lite版本拥有如下五大特性:
1、【超底算力需求】:大模型内容安全Lite版本可运行在纯CPU环境,最低 180 Mhz主频CPU,不超过1024MB内存支持,在安全无损失的情况下,尽可能为终端大模型释放更加充沛的GPU算力资源。
2、【全离线运行】:生成内容安全检查时无需联网,超低响应时间满足终端设备的极速体验需求,可以充分满足终端大模型高安全隐私,0云端上报的产品定位。
3、【多平台支持】:全线支持X86,ARM架构,原生支持Linux,Android平台,国产化适配。
4、【纯语义审核】:纯语义审核方案,终端0敏感词加载,降低因终端产品破解,敏感词泄漏曝光的舆情风险。
5、【可回复干预】:构建超灵活的回复干预手段及干预平台,结合OTA通道实现轻量级快捷风险干预处置。
适用场景
目前大模型内容安全Lite版,可以适用于如下四类核心终端场景:
1、【AIPC】:支持为加载于本地PC的大模型提供安全服务,并针对办公场景的全离线安全方案,对话闲聊、文件分析处理,本地检索等场景的高安全性保障。
2、【手机终端】:针对手机终端离线对话、知识检索,个人助理场景全面优化。
3、【平板Pad】:使用平板Pad进行创作应用,文档总结,办公协同等场景优化准确率。
4、【边缘计算】:全解耦,标准化,快速适配,保障边缘AI设备的安全合规要求。
成功案例
目前百度大模型内容安全Lite版本已经在国内多个AIPC产品上线,为其提供安全无损的离线审核、干预方案