大语言模型安全性:分类、评估、归因、缓解、展望 被引量：2

1

作者 黄河燕 李思霖 +7 位作者 兰天伟 邱昱力 柳泽明 姚嘉树 曾理 单赢宇 施晓明 郭宇航 《智能系统学报》 北大核心 2025年第1期2-32,共31页

大语言模型能够在多个领域及任务上给出与人类水平相当的解答,并且在未经训练的领域和任务上展现了丰富的涌现能力。然而,目前基于大语言模型的人工智能系统存在许多安全性隐患,例如大语言模型系统容易受到难以被察觉的攻击,模型生成的... 大语言模型能够在多个领域及任务上给出与人类水平相当的解答,并且在未经训练的领域和任务上展现了丰富的涌现能力。然而,目前基于大语言模型的人工智能系统存在许多安全性隐患,例如大语言模型系统容易受到难以被察觉的攻击,模型生成的内容存在违法、泄密、仇恨、偏见、错误等问题。并且在实际应用中,大语言模型可能被滥用,生成的内容可能引起国家、人群和领域等多个层面的困扰。本文旨在深入探讨大语言模型面临的安全性风险并进行分类,回顾现有的评估方法,研究安全性风险背后的因果机制,并总结现有的解决措施。具体而言,本文明确了大语言模型面临的10种安全性风险,并将其归类为模型自身安全性风险与生成内容的安全性风险两个方面,并对每种风险进行了详细的分析和讲解。此外,本文还从生命周期和危害程度两个角度对大语言模型的安全风险进行了系统化的分析,并介绍了现有的大语言模型安全风险评估方法、大语言模型安全风险的出现原因以及相应的缓解措施。大语言模型的安全风险是亟待解决的重要问题。 展开更多

关键词 大语言模型 模型自身安全性 生成内容安全性 安全性分类 安全性风险评估 安全性风险归因 安全性风险缓解措施 安全性研究展望

在线阅读 下载PDF 职称材料

一种基于BP神经网络的属性重要性计算方法 被引量：30

2

作者 潘庆先 董红斌 +2 位作者 韩启龙 王莹洁 丁蕊 《中国科学技术大学学报》 CAS CSCD 北大核心 2017年第1期18-25,共8页

人工神经网络学习作为机器学习的重要方式,在人工智能、模式识别、图像处理等领域已成功应用;BP网络作为神经网络学习的精华,它利用误差反传的方式不断修正权重以达到最佳拟合.多属性决策问题是决策理论研究领域的热点,当研究的问题涉... 人工神经网络学习作为机器学习的重要方式,在人工智能、模式识别、图像处理等领域已成功应用;BP网络作为神经网络学习的精华,它利用误差反传的方式不断修正权重以达到最佳拟合.多属性决策问题是决策理论研究领域的热点,当研究的问题涉及多个属性时,需要分析各属性的重要程度,即属性的权重.针对多分类输出结果的多输入属性相关性和重要性问题,提出了利用BP神经网络计算复杂输入属性的重要性方法;并对神经网络的节点数量、网络层数、学习策略、学习因子等进行研究,建立了适合属性重要性计算的BP神经网络模型;以烟台大学学生评教数据作为具体实例,利用k-fold方法验证其可行性和有效性. 展开更多

关键词 BP神经网络 属性重要性 多分类输出 学生评教

在线阅读 下载PDF 职称材料

基于变精度粗糙集的分类决策树构造方法 被引量：9

3

作者 庞哈利 高政威 +1 位作者 左军伟 卞玉倩 《系统工程与电子技术》 EI CSCD 北大核心 2008年第11期2160-2163,共4页

针对分类决策树构造时最优属性选择困难、难以适合大规模数据集的问题,提出新的属性选择标准——属性分类重要性测度,引入置信度和支持度,设计了基于变精度粗集理论的决策树算法。分类重要性测度可全面刻画属性的综合分类能力,且计算比... 针对分类决策树构造时最优属性选择困难、难以适合大规模数据集的问题,提出新的属性选择标准——属性分类重要性测度,引入置信度和支持度,设计了基于变精度粗集理论的决策树算法。分类重要性测度可全面刻画属性的综合分类能力,且计算比信息增益简单。决策树生长过程中引入支持度和置信度,以控制决策树的生长,提高决策树对噪声数据集和不相容数据集的处理能力,减小决策树的规模。通过对UCI上5个不同规模和类型的数据集进行测试计算,结果表明算法效率高于ID3算法,与UCI报告的最好结果相当。 展开更多

关键词 决策树 变精度粗集 近似分类精度 属性分类重要性测度

在线阅读 下载PDF 职称材料

基于属性识别理论的岩体可爆性分级方法 被引量：17

4

作者 李蓉 宋娟 何永延 《金属矿山》 CAS 北大核心 2008年第5期32-34,48,共4页

选择岩石的密度、抗拉强度、冲击动载强度以及岩体完整性系数作为岩体可爆性分级评判指标,以相似数定义相似权的方法,按一种客观性标准确定指标的权重,应用属性识别理论建立基于相似权的岩体可爆性分级判别属性测度模型。针对一些岩石... 选择岩石的密度、抗拉强度、冲击动载强度以及岩体完整性系数作为岩体可爆性分级评判指标,以相似数定义相似权的方法,按一种客观性标准确定指标的权重,应用属性识别理论建立基于相似权的岩体可爆性分级判别属性测度模型。针对一些岩石样本试验数据进行分析判别,说明模型的使用方法和岩体可爆性分级评判过程。由于属性识别理论能很好地解决某类问题具有多个模糊属性的综合评价,且置信度准则是根据评价集具有有序性这一特点而提出的,因而可使评价结果更为可靠;同时评价模型采用客观性权重,避免了权重确定中的主观性和随意性,保证了评价工作的客观性和准确性。 展开更多

关键词 岩体可爆性分级 属性测度 属性识别 相似权

在线阅读 下载PDF 职称材料

基于支持向量机的Internet流量分类研究 被引量：59

5

作者 徐鹏 刘琼 林森 《计算机研究与发展》 EI CSCD 北大核心 2009年第3期407-414,共8页

准确的网络流量分类是众多网络研究工作的基础,也一直是网络测量领域的研究热点.近年来,利用机器学习方法处理流量分类问题成为了该领域一个新兴的研究方向.在目前研究中应用较多的是朴素贝叶斯(nave Bayes,NB)及其改进算法.这些方法具... 准确的网络流量分类是众多网络研究工作的基础,也一直是网络测量领域的研究热点.近年来,利用机器学习方法处理流量分类问题成为了该领域一个新兴的研究方向.在目前研究中应用较多的是朴素贝叶斯(nave Bayes,NB)及其改进算法.这些方法具有实现简单、分类高效的特点.但该方法过分依赖于样本空间的分布,具有内在的不稳定性.因此,提出一种基于支持向量机(support vector machine,SVM)的流量分类方法.该方法利用非线性变换和结构风险最小化(structural risk minimization,SRM)原则将流量分类问题转化为二次寻优问题,具有良好的分类准确率和稳定性.在理论分析的基础上,通过在实际网络流集合上与朴素贝叶斯算法的对比实验,可以看出使用支持向量机方法处理流量分类问题,具有以下3个优势:1)网络流属性不必满足条件独立假设,无须进行属性过滤;2)能够在先验知识相对不足的情况下,仍保持较高的分类准确率;3)不依赖于样本空间的分布,具有较好的分类稳定性. 展开更多

关键词 流量分类 网络测量 网络流 支持向量机 统计属性

在线阅读 下载PDF 职称材料

基于C4.5决策树的流量分类方法 被引量：171

6

作者 徐鹏 林森 《软件学报》 EI CSCD 北大核心 2009年第10期2692-2704,共13页

近年来,利用机器学习方法处理流量分类问题成为网络测量领域一个新兴的研究方向.在现有研究中,朴素贝叶斯方法及其改进算法以其实现简单、分类高效的特点而被广泛应用.但此类方法过分依赖于样本在样本空间的分布,具有潜在的不稳定性.为... 近年来,利用机器学习方法处理流量分类问题成为网络测量领域一个新兴的研究方向.在现有研究中,朴素贝叶斯方法及其改进算法以其实现简单、分类高效的特点而被广泛应用.但此类方法过分依赖于样本在样本空间的分布,具有潜在的不稳定性.为此,引入C4.5决策树方法来处理流量分类问题.该方法利用训练数据集中的信息熵来构建分类模型,并通过对分类模型的简单查找来完成未知网络流样本的分类.理论分析和实验结果都表明,利用C4.5决策树来处理流量分类问题在分类稳定性上均具有明显的优势. 展开更多

关键词 流量分类 网络测量 决策树 网络流 统计属性

在线阅读 下载PDF 职称材料

围岩超前优化分级的属性识别模型及其工程应用 被引量：8

7

作者 周宗青 李术才 +2 位作者 李利平 路为 石少帅 《中南大学学报（自然科学版）》 EI CAS CSCD 北大核心 2013年第4期1611-1619,共9页

为有效进行隧道围岩超前优化分级,提出基于属性数学理论和隧道地震波勘探系统的围岩超前优化分级方法。选取隧道地震波勘探系统可有效识别的物理力学参数作为属性评价指标,并结合围岩工程地质分类和RMR系统分类方法,确定围岩等级与各评... 为有效进行隧道围岩超前优化分级,提出基于属性数学理论和隧道地震波勘探系统的围岩超前优化分级方法。选取隧道地震波勘探系统可有效识别的物理力学参数作为属性评价指标,并结合围岩工程地质分类和RMR系统分类方法,确定围岩等级与各评价指标之间的对应关系;通过构建单指标属性测度函数,计算得到单指标属性测度及样本综合属性测度;应用置信度准则对隧道样本的围岩等级进行属性识别,从而建立围岩优化分级的属性识别模型。在工程实例分析研究中,评价结果与模糊综合评价法以及GA-SVM法的评价结果具有较好的一致性,从而验证属性识别模型评价结果的合理性及可靠性。 展开更多

关键词 属性测度分析 属性识别模型 隧道地震波勘探 围岩优化分级 工程应用

在线阅读 下载PDF 职称材料

基于分类规则的C4.5决策树改进算法 被引量：22

8

作者 李孝伟 陈福才 李邵梅 《计算机工程与设计》 CSCD 北大核心 2013年第12期4321-4325,4330,共6页

为解决大样本数据条件下C4.5决策树算法需要训练集常驻内存、分类精度达不到需求以及如何选取最优分类规则等问题,提出了一种基于分类规则选取的C4.5决策树改进算法。通过数次有放回的随机抽取训练集形成多个分类规则,在多次分类规则内... 为解决大样本数据条件下C4.5决策树算法需要训练集常驻内存、分类精度达不到需求以及如何选取最优分类规则等问题,提出了一种基于分类规则选取的C4.5决策树改进算法。通过数次有放回的随机抽取训练集形成多个分类规则,在多次分类规则内寻找特征的最优取值以建立最优分类规则,以划分相似度为标准进行C4.5决策树最优特征选取,在此基础上利用选定的最优分类规则和最优特征对C4.5决策树算法进行改进。实验结果表明,改进后的算法可有效解决C4.5决策树与初始训练集相关性较大的问题,对大样本数据集的分类识别在识别率上有显著提高,训练时间明显减少。 展开更多

关键词 C4 5决策树 分类规则 属性度量 划分相似度 特征选取

在线阅读 下载PDF 职称材料

基于SVM最优决策面的决策树构造 被引量：18

9

作者 李荣雨 程磊 《电子测量与仪器学报》 CSCD 北大核心 2016年第3期342-351,共10页

针对决策树与SVM算法融合问题,提出一种基于SVM最优决策面(ODS)构造决策树的方法。通过研究ODS形状位置特征与其属性分类能力的关系以及属性分割点的数目、位置与决策树大小、分类误差的关系,给出基于ODS形状位置特征的属性重要性度量... 针对决策树与SVM算法融合问题,提出一种基于SVM最优决策面(ODS)构造决策树的方法。通过研究ODS形状位置特征与其属性分类能力的关系以及属性分割点的数目、位置与决策树大小、分类误差的关系,给出基于ODS形状位置特征的属性重要性度量方法与属性最小分割点数的确定方法,进而得出了ODS逼近决策树决策面的误差模型,最终实现ODS对决策树决策面的有效逼近,并用于多类别决策树的构造。典型数据集的计算结果表明,与C4.5算法相比,所提出的决策树构造方法平均分类误差可减少60%以上,显著提高了决策树的泛化能力。 展开更多

关键词 决策树 支持向量机 最优决策面逼近 属性重要性度量 属性分割优化

在线阅读 下载PDF 职称材料

基于决策树的流量分类方法 被引量：6

10

作者 徐鹏 林森 刘琼 《计算机应用研究》 CSCD 北大核心 2008年第8期2484-2487,共4页

近年来,利用机器学习方法处理流量分类问题已成为网络测量领域一个新兴的研究方向。在目前研究中应用较多的是朴素贝叶斯方法及其改进算法,但这些基于贝叶斯定理的分类方法过于依赖样本空间的分布,具有潜在的不稳定性。为此,引入C4.5决... 近年来,利用机器学习方法处理流量分类问题已成为网络测量领域一个新兴的研究方向。在目前研究中应用较多的是朴素贝叶斯方法及其改进算法,但这些基于贝叶斯定理的分类方法过于依赖样本空间的分布,具有潜在的不稳定性。为此,引入C4.5决策树方法来处理流量分类问题。C4.5决策树方法利用信息熵来构建分类模型,无须假设先验概率的稳定。实验结果表明C4.5决策树方法可以有效避免网络流分布变化所带来的影响。 展开更多

关键词 流量分类 网络测量 网络流 决策树 统计属性

在线阅读 下载PDF 职称材料

基于改进属性加权的朴素贝叶斯分类模型 被引量：12

11

作者 李方 刘琼荪 《计算机工程与应用》 CSCD 北大核心 2010年第4期132-133,141,共3页

构造了一种新的属性间相关性度量方法,提出了改进属性加权的朴素贝叶斯分类模型。经实验证明,提出的朴素贝叶斯分类模型明显优于张舜仲等人提出的分类模型。

关键词 属性加权 朴素贝叶斯 分类模型 相关性度量

在线阅读 下载PDF 职称材料

Rough集中属性分类贡献能力综合测度研究 被引量：5

12

作者 乔梅 韩文秀 《系统工程学报》 CSCD 北大核心 2006年第5期508-514,共7页

针对Rough集中刻画属性分类能力的测度正区域等仅能反映属性可辨识对象集大小,不能反映属性对样本的划分状况影响分类的其它因素的问题,提出了Rough集中度量属性分类贡献能力的综合测度———属性分类粗糙度,对其特性进行了分析,给出了... 针对Rough集中刻画属性分类能力的测度正区域等仅能反映属性可辨识对象集大小,不能反映属性对样本的划分状况影响分类的其它因素的问题,提出了Rough集中度量属性分类贡献能力的综合测度———属性分类粗糙度,对其特性进行了分析,给出了用该测度以及信息增益等分别作为决策树算法选择属性的启发式对UCI几个数据集的挖掘结果.理论分析和实验表明,属性分类粗糙度更全面地刻画了属性对分类的综合贡献能力,且具有计算更为简单等特点. 展开更多

关键词 ROUGH集 属性分类粗糙度 决策树 分类 测度

在线阅读 下载PDF 职称材料

一致性分类问题中规则提取的新方法 被引量：1

13

作者 张小峰 周凤翔 +1 位作者 宋丽华 孙玉娟 《计算机工程与应用》 CSCD 北大核心 2007年第1期178-180,共3页

研究了一致性分类问题中挖掘分类规则的算法,提出了一种基于属性重要性及partition的分类规则的新方法。首先根据属性的重要性度量选择一个属性,根据该属性与决策属性构造信息系统的分区,然后对每一个分区进行描述,并根据是否会在信息... 研究了一致性分类问题中挖掘分类规则的算法,提出了一种基于属性重要性及partition的分类规则的新方法。首先根据属性的重要性度量选择一个属性,根据该属性与决策属性构造信息系统的分区,然后对每一个分区进行描述,并根据是否会在信息系统中产生冲突对描述进行简化,最后根据简化后的描述形成分类规则。 展开更多

关键词 分区 分类规则 属性重要性

在线阅读 下载PDF 职称材料

基于邻域信息熵度量数值属性快速约简算法 被引量：7

14

作者 李少年 吴良刚 《计算机工程与科学》 CSCD 北大核心 2016年第2期350-355,共6页

阐述邻域粗糙集和邻域信息熵的基本定义及性质,为避免数值属性信息系统属性约简过程中,属性离散化造成特征信息的丢失,提出一种新的基于邻域信息熵度量数值属性约简算法。扩展邻域信息系统核属性集生成约简属性集,邻域信息熵度量不仅关... 阐述邻域粗糙集和邻域信息熵的基本定义及性质,为避免数值属性信息系统属性约简过程中,属性离散化造成特征信息的丢失,提出一种新的基于邻域信息熵度量数值属性约简算法。扩展邻域信息系统核属性集生成约简属性集,邻域信息熵度量不仅关注约简属性集正域变化,而且考察负域样本空间约简属性邻域等价类在决策属性划分的分布,具备更好的邻域关系度量细粒度。实验表明,对比邻域粗糙集近似度量、邻域有效信息率度量、邻域软间隔度量的属性约简方法,该算法能有效进行邻域信息系统属性约简的同时,也保持了约简属性集更好的分类精度。 展开更多

关键词 属性约简 邻域信息熵度量 核属性 邻域信息系统 负域样本空间 分类精度

在线阅读 下载PDF 职称材料

路基膨胀土判别和分类的属性测度模型 被引量：2

15

作者 文畅平 何永延 《水利水运工程学报》 CSCD 北大核心 2008年第1期73-77,共5页

将属性数学理论应用于膨胀土的综合评判中,建立路基膨胀土判别与分类的属性测度模型.首先根据《公路路基设计规范》对膨胀土的评判要求,结合高速公路路基膨胀土的判别与分类实践,提出用于膨胀土综合判别的评价指标.然后根据属性数学理... 将属性数学理论应用于膨胀土的综合评判中,建立路基膨胀土判别与分类的属性测度模型.首先根据《公路路基设计规范》对膨胀土的评判要求,结合高速公路路基膨胀土的判别与分类实践,提出用于膨胀土综合判别的评价指标.然后根据属性数学理论构造单指标属性测度函数,以属性测度函数计算单指标属性测度,以客观性权重对指标进行赋权以计算多指标综合属性测度,以该综合属性测度对膨胀土的膨胀等级进行判别.最后以置信度准则进行膨胀土胀缩等级的属性识别.实例研究表明,该模型的评价结果与《公路路基设计规范》评判法、模糊综合评判法的评价结果基本一致. 展开更多

关键词 路基 膨胀土 判别与分类 属性测度 属性识别

在线阅读 下载PDF 职称材料

岩体可爆性分级判别的属性测度模型及其应用 被引量：6

16

作者 文畅平 李蓉 《工程爆破》 2007年第3期14-17,共4页

选择坚固性系数、声阻抗、炸药消耗量,以及平均裂隙距作为岩体可爆性分级评判指标,应用属性测度理论建立岩体可爆性分级综合评价属性测度模型。针对岩体可爆性评价实例进行分析评价,评价结果与灰色优化模型和模糊综合评判法的评判结果一... 选择坚固性系数、声阻抗、炸药消耗量,以及平均裂隙距作为岩体可爆性分级评判指标,应用属性测度理论建立岩体可爆性分级综合评价属性测度模型。针对岩体可爆性评价实例进行分析评价,评价结果与灰色优化模型和模糊综合评判法的评判结果一致,从而验证了属性测度模型应用于岩体可爆性分级评价的可行性和有效性。由于属性识别理论能很好地解决某类问题具有多个模糊属性的综合评价,且置信度准则是根据评价集具有有序性这一特点而提出的,因而可使评价结果更为可靠。 展开更多

关键词 岩体可爆性分级 属性测度 属性识别

在线阅读 下载PDF 职称材料

基于属性重要性的关联分类方法 被引量：2

17

作者 胡文瑾 李明 《计算机工程与设计》 CSCD 北大核心 2008年第9期2336-2338,2355,共4页

提出了基于属性重要性的关联分类方法。与传统算法不同的是根据属性重要性程度生成类别关联规则;并且在构造分类器时改进了CBA算法中对于具有相同支持度、置信度规则选择时的随机性。实验结果证明,用该方法得到的分类规则与传统的关联... 提出了基于属性重要性的关联分类方法。与传统算法不同的是根据属性重要性程度生成类别关联规则;并且在构造分类器时改进了CBA算法中对于具有相同支持度、置信度规则选择时的随机性。实验结果证明,用该方法得到的分类规则与传统的关联分类算法相比,复杂度低,且有效提高了分类效果。 展开更多

关键词 数据挖掘 关联分类 属性重要性 规则的优先度 数据库覆盖

在线阅读 下载PDF 职称材料

数据挖掘中改进的C4.5决策树分类算法 被引量：25

18

作者 王文霞 《吉林大学学报（理学版）》 CAS CSCD 北大核心 2017年第5期1274-1277,共4页

针对传统C4.5决策树分类算法需要进行多次扫描,导致运行效率低的缺陷,提出一种新的改进C4.5决策树分类算法.通过优化信息增益推导算法中相关的对数运算,以减少决策树分类算法的运行时间;将传统算法中连续属性的简单分裂属性改进为最优... 针对传统C4.5决策树分类算法需要进行多次扫描,导致运行效率低的缺陷,提出一种新的改进C4.5决策树分类算法.通过优化信息增益推导算法中相关的对数运算,以减少决策树分类算法的运行时间;将传统算法中连续属性的简单分裂属性改进为最优划分点分裂处理,以提高算法效率.实验结果表明,改进的C4.5决策树分类算法相比传统的C4.5决策树分类算法极大提高了执行效率,减小了需求空间. 展开更多

关键词 数据挖掘 C4.5决策树 分类算法 判别能力度量 连续属性

在线阅读 下载PDF 职称材料

基于特征点类别可分性判断准则的图像分类 被引量：1

19

作者 刘晋胜 《计算机工程与应用》 CSCD 2012年第12期173-178,共6页

针对图像分类特征点特性界定模糊,导致相似性度量误差较大的问题,提出采用特征点类别可分性判断准则的图像分类方法。结合信息熵理论提取图像特征点的可分性特性,根据图像特征向量标识决策属性的不同性质,计算特征向量间的可分性距离值... 针对图像分类特征点特性界定模糊,导致相似性度量误差较大的问题,提出采用特征点类别可分性判断准则的图像分类方法。结合信息熵理论提取图像特征点的可分性特性,根据图像特征向量标识决策属性的不同性质,计算特征向量间的可分性距离值,得到最近邻特征向量集,从待分图像各特征向量与最近邻特征向量集标识类别的平均距离,及平均可分性度量值两方面定义新的图像类别判断准则。理论分析与Caltech256图像库仿真实验表明,基于特征点类别可分性判断准则有效地提高了图像的分类准确率。 展开更多

关键词 图像分类 可分性 距离度量 决策属性 最近邻分类

在线阅读 下载PDF 职称材料

可供出售金融资产中权益性投资公允价值计量探究——以北京市属国有上市公司为例 被引量：1

20

作者 尤小雁 《财会通讯（上）》 北大核心 2017年第8期70-72,共3页

大型企业普遍持有对被投资单位不具有重大影响且在活跃市场上不具有市价的权益性投资,2014年会计准则修订,此类投资从长期股权投资转为可供出售金融资产,会计准则主张以公允价值计量为主,以成本计量为辅,但会计实务中多数企业仍选择成... 大型企业普遍持有对被投资单位不具有重大影响且在活跃市场上不具有市价的权益性投资,2014年会计准则修订,此类投资从长期股权投资转为可供出售金融资产,会计准则主张以公允价值计量为主,以成本计量为辅,但会计实务中多数企业仍选择成本计量。本文以北京市属国有上市公司为例,分析此类投资公允价值计量的难点和信息披露的缺陷。 展开更多

关键词 可供出售金融资产 权益性投资 计量属性的选择 公允价值层次

在线阅读 下载PDF 职称材料