期刊文献+
共找到3篇文章
< 1 >
每页显示 20 50 100
面向机器学习模型安全的测试与修复 被引量:7
1
作者 张笑宇 沈超 +4 位作者 蔺琛皓 李前 王骞 李琦 管晓宏 《电子学报》 EI CAS CSCD 北大核心 2022年第12期2884-2918,共35页
近年来,以机器学习算法为代表的人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了广泛的应用,各式各样的机器学习模型为人们的生活带来了巨大的便利.机器学习模型的工作流程可以分为三个阶段.首先,模型接收人工收集或算... 近年来,以机器学习算法为代表的人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了广泛的应用,各式各样的机器学习模型为人们的生活带来了巨大的便利.机器学习模型的工作流程可以分为三个阶段.首先,模型接收人工收集或算法生成的原始数据作为输入,并通过预处理算法(如数据增强和特征提取)对数据进行预处理.随后,模型定义神经元或层的架构,并通过运算符(例如卷积和池)构建计算图.最后,模型调用机器学习框架的函数功能实现计算图并执行计算,根据模型神经元的权重计算输入数据的预测结果.在这个过程中,模型中单个神经元输出的轻微波动可能会导致完全不同的模型输出,从而带来巨大的安全风险.然而,由于对机器学习模型的固有脆弱性及其黑箱特征行为的理解不足,研究人员很难提前识别或定位这些潜在的安全风险,这为个人生命财产安全乃至国家安全带来了诸多风险和隐患.研究机器学习模型安全的相关测试与修复方法,对深刻理解模型内部风险与脆弱性、全面保障机器学习系统安全性以及促进人工智能技术的广泛应用有着重要意义.本文从不同安全测试属性出发,详细介绍了现有的机器学习模型安全测试和修复技术,总结和分析了现有研究中的不足,探讨针对机器学习模型安全的测试与修复的技术进展和未来挑战,为模型的安全应用提供了指导和参考.本文首先介绍了机器学习模型的结构组成和主要安全测试属性,随后从机器学习模型的三个组成部分即数据、算法和实现,六种模型安全相关测试属性即正确性、鲁棒性、公平性、效率、可解释性和隐私性,分析、归纳和总结了相关的测试与修复方法及技术,并探讨了现有方法的局限.最后本文讨论和展望了机器学习模型安全的测试与修复方法的主要技术挑战和发展趋势. 展开更多
关键词 人工智能安全 机器学习安全 机器学习模型测试 机器学习模型修复 软件测试 软件修复
在线阅读 下载PDF
适用于新型电力系统调度和规划的数学模型框架及碳排放指标分析 被引量:1
2
作者 韩智涵 翟桥柱 +2 位作者 周玉洲 曹晓宇 管晓宏 《新型电力系统》 2024年第3期297-311,共15页
目前我国全社会总碳排放量中约35%~40%来自电力系统,因此,构建新能源高渗透率的新型电力系统,降低电力生产中的碳排放,是实现“2030碳达峰、2060碳中和”目标的必然选择。在双碳战略目标下的新型电力系统建设过程中,有两个问题尤为重要... 目前我国全社会总碳排放量中约35%~40%来自电力系统,因此,构建新能源高渗透率的新型电力系统,降低电力生产中的碳排放,是实现“2030碳达峰、2060碳中和”目标的必然选择。在双碳战略目标下的新型电力系统建设过程中,有两个问题尤为重要:第一,新型电力系统恰当的数学模型框架是什么样的?这是解决新型电力系统规划、运行调度、分析计算等问题的基础;第二,怎样准确评估新型电力系统碳减排潜力和在此基础上怎样准确识别系统中制约碳减排的瓶颈因素?文中从新型电力系统规划及运行调度角度对以上两个问题进行分析。首先,我们从新型电力系统源、网、荷、储4个方面对比总结了现有的各组成要素模型,对应当采用的系统框架提出了建议;接着,在新型电力系统数学模型框架基础上,提出了理想碳排放量、各因素对碳排放的灵敏度指标定义及其应用方法,这些指标将有助于为新型电力系统建设提供参考。 展开更多
关键词 新能源 新型电力系统 源-网-荷-储 碳排放指标
在线阅读 下载PDF
自适应模型与改进粒子滤波的电池RUL预测 被引量:9
3
作者 贺宁 钱成 李若夏 《哈尔滨工业大学学报》 EI CAS CSCD 北大核心 2022年第9期111-121,共11页
为提高锂电池运行的安全性和可靠性并维护系统稳定运行,提出一种自适应混合模型与改进粒子滤波(particle filter,PF)算法的锂电池剩余使用寿命(remaining useful life,RUL)预测方法。采用经验模型与神经网络模型结合建立自适应混合模型... 为提高锂电池运行的安全性和可靠性并维护系统稳定运行,提出一种自适应混合模型与改进粒子滤波(particle filter,PF)算法的锂电池剩余使用寿命(remaining useful life,RUL)预测方法。采用经验模型与神经网络模型结合建立自适应混合模型描述电池容量退化趋势,并使用天牛须搜索(beetle antennae search,BAS)算法优化PF重采样步骤解决粒子多样性丧失问题,从而提高估计精度进而实现RUL的精准预测。应用NASA和CALCE公开的两组不同类型锂电池作为实验对象,验证模型的有效性并通过对比PF与改进PF算法验证RUL预测的准确性。结果表明:自适应混合模型对于电池容量变化的表达能力更强,既能考虑电池内部的参数变化又能反应电池外部环境的变化,基于BAS改进的PF(BAS⁃PF)方法相较于传统PF算法的估计精度更高而且RUL预测更准确,对于不同的预测起点,两块测试电池的RUL预测误差分别为5.88%、3.92%、1.96%和3.75%、1.25%、0%。自适应混合模型能更加有效地描述电池容量特征,基于自适应混合模型的BAS⁃PF算法的电池RUL预测能力更好,可靠性更强,有助于提高RUL预测的精度和表现。 展开更多
关键词 粒子滤波 剩余寿命 优化算法 神经网络 锂电池 混合模型
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部