安全模型是网络空间安全研究的基础和起点.以机密性为例,历史上研究人员率先提出了BLP(Bell-LaPudula)模型,BLP从思想上精确把握了机密性“不上读,不下写”的本质,但在设计上存在不足,这导致BLP自身存在隐通道等缺陷.为此,研究人员基于...安全模型是网络空间安全研究的基础和起点.以机密性为例,历史上研究人员率先提出了BLP(Bell-LaPudula)模型,BLP从思想上精确把握了机密性“不上读,不下写”的本质,但在设计上存在不足,这导致BLP自身存在隐通道等缺陷.为此,研究人员基于信息流提出了无干扰的思想.无干扰通过研究“攻击者在系统内信息流动的过程中,能否通过观察系统所到达的不同状态之间的差异以非法获取机密信息”,来分析系统的安全性.目前,无干扰模型已成为事实上机密性领域的基础模型.当前无干扰分析主流(甚至唯一)的方法是Rushby所提出的视图分区(view-partition)方法.但是,视图分区方法的3条规则难以转化为可机械计算的递归形式,且缺少直观的数学解释,这使得无干扰模型的属性验证和实践应用长久以来一直难以取得进展.近年来,随着无干扰模型在可信计算、云计算和机密计算等新型计算领域获得广泛应用,上述问题进一步凸显.针对无干扰模型的分析和验证问题,提出了一种称为伙伴状态机(buddy state machines)的无干扰分析改进方法.该方法通过分析真实(real)和理想(ideal)两个状态机在同步运行过程中的状态等价关系,实现对无干扰属性的分析和验证.基于伙伴状态机,建立了一种新的无干扰模型形式分析框架;给出了可靠和完备的无干扰成立条件;提出了O(|S|^(2))时间复杂度的无干扰属性验证算法,为无干扰模型的分析、验证和应用提供了一种可参考的改进方法.展开更多
人工智能(artificial intelligence,AI)应用的伦理风险和挑战引起了人们的普遍关注,如何从技术实现角度开发出遵守人类价值观和伦理规范的AI系统,即,符合伦理的AI设计,是亟需解决的重要问题之一.基于机器学习的伦理与道德判别是此方面...人工智能(artificial intelligence,AI)应用的伦理风险和挑战引起了人们的普遍关注,如何从技术实现角度开发出遵守人类价值观和伦理规范的AI系统,即,符合伦理的AI设计,是亟需解决的重要问题之一.基于机器学习的伦理与道德判别是此方面的有益探索.社会新闻数据具有丰富的伦理和道德的内容及知识,为机器学习的训练数据开发提供了可能.鉴于此,本文构建了具有人类行为伦理和道德属性的社会新闻数据集,附之以法律与行为规范数据集,用以机器学习的训练和测试;建立了基于使用信息实体的增强语言表示(enhanced language representation of information entities,ERNIE)和卷积神经网络(convolutional neural network,CNN)的伦理行为判别模型ERNIE-CNN,通过词的向量表示计算语义相似度来提取关于行为的伦理判断.实验结果表明,提出的模型具有比基准模型更好的性能,验证了方法和模型的有效性.展开更多
文摘安全模型是网络空间安全研究的基础和起点.以机密性为例,历史上研究人员率先提出了BLP(Bell-LaPudula)模型,BLP从思想上精确把握了机密性“不上读,不下写”的本质,但在设计上存在不足,这导致BLP自身存在隐通道等缺陷.为此,研究人员基于信息流提出了无干扰的思想.无干扰通过研究“攻击者在系统内信息流动的过程中,能否通过观察系统所到达的不同状态之间的差异以非法获取机密信息”,来分析系统的安全性.目前,无干扰模型已成为事实上机密性领域的基础模型.当前无干扰分析主流(甚至唯一)的方法是Rushby所提出的视图分区(view-partition)方法.但是,视图分区方法的3条规则难以转化为可机械计算的递归形式,且缺少直观的数学解释,这使得无干扰模型的属性验证和实践应用长久以来一直难以取得进展.近年来,随着无干扰模型在可信计算、云计算和机密计算等新型计算领域获得广泛应用,上述问题进一步凸显.针对无干扰模型的分析和验证问题,提出了一种称为伙伴状态机(buddy state machines)的无干扰分析改进方法.该方法通过分析真实(real)和理想(ideal)两个状态机在同步运行过程中的状态等价关系,实现对无干扰属性的分析和验证.基于伙伴状态机,建立了一种新的无干扰模型形式分析框架;给出了可靠和完备的无干扰成立条件;提出了O(|S|^(2))时间复杂度的无干扰属性验证算法,为无干扰模型的分析、验证和应用提供了一种可参考的改进方法.
文摘人工智能(artificial intelligence,AI)应用的伦理风险和挑战引起了人们的普遍关注,如何从技术实现角度开发出遵守人类价值观和伦理规范的AI系统,即,符合伦理的AI设计,是亟需解决的重要问题之一.基于机器学习的伦理与道德判别是此方面的有益探索.社会新闻数据具有丰富的伦理和道德的内容及知识,为机器学习的训练数据开发提供了可能.鉴于此,本文构建了具有人类行为伦理和道德属性的社会新闻数据集,附之以法律与行为规范数据集,用以机器学习的训练和测试;建立了基于使用信息实体的增强语言表示(enhanced language representation of information entities,ERNIE)和卷积神经网络(convolutional neural network,CNN)的伦理行为判别模型ERNIE-CNN,通过词的向量表示计算语义相似度来提取关于行为的伦理判断.实验结果表明,提出的模型具有比基准模型更好的性能,验证了方法和模型的有效性.
