随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注.大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术...随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注.大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术应用2个视角,分析了大模型安全的整体趋势.同时,基于大模型自身的特点,梳理了大模型安全能力建设的实践思路,为大模型研发、大模型应用构建提供了安全体系构建的参考方案.介绍的大模型安全能力实践方案包括安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个部分.展开更多
近年来,由人为因素引发的高校化学实验室事故频发,基于深度学习的行为识别技术逐渐成为提升实验室安全的重要手段。然而,该场景具有环境复杂多变、目标尺度多样以及计算资源受限等多项挑战。针对这些挑战,构建了一个包含4种典型动态场...近年来,由人为因素引发的高校化学实验室事故频发,基于深度学习的行为识别技术逐渐成为提升实验室安全的重要手段。然而,该场景具有环境复杂多变、目标尺度多样以及计算资源受限等多项挑战。针对这些挑战,构建了一个包含4种典型动态场景,7类不安全行为的高校化学实验室不安全行为数据集(unsafe behavior dataset for chemical laboratories,UBDCL),并基于此提出了高校化学实验室不安全行为识别模型(lightweight identification model of unsafe behavior in university chemical laboratory,LIMUB)。首先,为提高多样化不安全行为识别的效果,提出了一种注意力引导的高效卷积模块(GSConv based on CO attention enhancement module,GSCO),在提高模型效率的同时有效滤除了通道冗余信息;其次,为降低小物体特征在经过多层次梯度处理后的信息损失,提出了一种增强型的特征表征模块(conv combined with conv additive self-attention block,CCAB),融合网络多层信息增强了全局上下文信息特征表达能力;最后,为进一步降低模型的计算复杂度,对原有的检测头进行分析,提出了基于共享参数的异构分支模块(dual-branch heterogeneous lightweight module,DBHLM),有效降低了模型头部的参数量。基于UBDCL的实验结果表明,LIMUB的参数量和计算量较基线模型分别降低了24.7%、27.9%,平均精确度mAP(50)和mAP(50∶95)分别高达99.16%和88.84%。该模型能有效平衡实时性和准确性,可为提高实验室整体安全提供参考。展开更多
文摘随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注.大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术应用2个视角,分析了大模型安全的整体趋势.同时,基于大模型自身的特点,梳理了大模型安全能力建设的实践思路,为大模型研发、大模型应用构建提供了安全体系构建的参考方案.介绍的大模型安全能力实践方案包括安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个部分.
文摘近年来,由人为因素引发的高校化学实验室事故频发,基于深度学习的行为识别技术逐渐成为提升实验室安全的重要手段。然而,该场景具有环境复杂多变、目标尺度多样以及计算资源受限等多项挑战。针对这些挑战,构建了一个包含4种典型动态场景,7类不安全行为的高校化学实验室不安全行为数据集(unsafe behavior dataset for chemical laboratories,UBDCL),并基于此提出了高校化学实验室不安全行为识别模型(lightweight identification model of unsafe behavior in university chemical laboratory,LIMUB)。首先,为提高多样化不安全行为识别的效果,提出了一种注意力引导的高效卷积模块(GSConv based on CO attention enhancement module,GSCO),在提高模型效率的同时有效滤除了通道冗余信息;其次,为降低小物体特征在经过多层次梯度处理后的信息损失,提出了一种增强型的特征表征模块(conv combined with conv additive self-attention block,CCAB),融合网络多层信息增强了全局上下文信息特征表达能力;最后,为进一步降低模型的计算复杂度,对原有的检测头进行分析,提出了基于共享参数的异构分支模块(dual-branch heterogeneous lightweight module,DBHLM),有效降低了模型头部的参数量。基于UBDCL的实验结果表明,LIMUB的参数量和计算量较基线模型分别降低了24.7%、27.9%,平均精确度mAP(50)和mAP(50∶95)分别高达99.16%和88.84%。该模型能有效平衡实时性和准确性,可为提高实验室整体安全提供参考。
