生成式大模型安全检测服务平台

基于人工智能的生成式大模型安全检测服务平台基于人工智能的生成式大模型安全检测服务平台是在遵循国家发布的《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》等政策法规的要求下,以及基于国家、地方主管部门对大模型安全检测及常态化监测工作的需要,建设多模态自动化问答采集与调度、测试问题集持续生成与拓展、智能化拒答与风险分析研判、体系化大模型安全风险评估等基础能力。

基于人工智能的生成式大模型安全检测服务平台是在遵循国家发布的《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》等政策法规的要求下,以及基于国家、地方主管部门对大模型安全检测及常态化监测工作的需要,建设多模态自动化问答采集与调度、测试问题集持续生成与拓展、智能化拒答与风险分析研判、体系化大模型安全风险评估等基础能力,实现对生成式人工智能产品服务上线前安全评估、上线后持续监测、安全态势感知等业务场景,从而可以有效支撑对生成式人工智能产品的安全治理和内容监管工作,助力规范人工智能行业发展。

平台可以面向生成式大模型提供安全检测服务,识别风险隐患,形成高标准、高精度的安全监测能力。可以以服务方式或者软件产品方式部署,既可以支撑相关主管部门,开展生成式人工智能产品安全治理和内容监管工作;也可以支持生成式大模型产品或服务企业开展自评估,更好地建立大模型防御机制。