期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
NeuronSup:基于偏见神经元抑制的深度模型去偏方法
1
作者
倪洪杰
刘嘉威
+2 位作者
郑海斌
陈奕芃
陈晋音
《计算机科学》
CSCD
北大核心
2023年第11期122-131,共10页
随着深度学习的广泛应用,研究者在关注模型分类性能的同时,还需要关注模型的决策是否公平可信。存在决策偏见的深度模型会造成极大的负面影响,因此如何维持深度模型的分类正确率,同时提高模型的决策公平至关重要。目前已有工作提出了较...
随着深度学习的广泛应用,研究者在关注模型分类性能的同时,还需要关注模型的决策是否公平可信。存在决策偏见的深度模型会造成极大的负面影响,因此如何维持深度模型的分类正确率,同时提高模型的决策公平至关重要。目前已有工作提出了较多方法,用于改善模型的个体公平,但是这些方法仍然在去偏效果、去偏后模型可用性、去偏效率等方面存在缺陷。为此,文中分析了深度模型存在个体偏见时神经元异常激活现象,提出了一种基于偏见神经元抑制的模型去偏方法NeuronSup,具有显著降低个体偏见、对主任务性能影响小、时间复杂度低等优势。具体而言,首先根据深度模型部分神经元由于个体偏见而产生异常激活的现象提出了偏见神经元的概念。然后,利用歧视样本对查找深度模型中的偏见神经元,通过抑制偏见神经元的异常激活大幅降低深度模型的个体偏见,并且根据每个神经元的最大权重边确定主任务性能神经元,通过保持深度模型的主任务性能神经元参数不变,来减小去偏操作对深度模型分类性能造成的影响。因为NeuronSup只对深度模型中的特定神经元进行去偏操作,所以时间复杂度更低,效率更高。最后,在3个真实数据集的6种敏感属性上开展去偏实验,与5种对比算法相比,NeuronSup将个体公平指标THEMIS降低了50%以上,同时使去偏操作对深度模型分类准确率的影响降低到3%以内,验证了NeuronSup在保证深度模型分类能力的情况下降低个体偏见的有效性。
展开更多
关键词
个体公平
深度学习
偏见神经元
模型去偏
在线阅读
下载PDF
职称材料
题名
NeuronSup:基于偏见神经元抑制的深度模型去偏方法
1
作者
倪洪杰
刘嘉威
郑海斌
陈奕芃
陈晋音
机构
浙江工业大学信息工程学院
浙江工业大学网络空间安全研究院
出处
《计算机科学》
CSCD
北大核心
2023年第11期122-131,共10页
基金
国家自然科学基金(62072406)
浙江省自然科学基金(LDQ23F020001)
+3 种基金
信息系统安全技术重点实验室基金(61421110502)
浙江省重点研发计划(2021C01117)
2020年工业互联网创新发展工程项目(TC200H01V)
浙江省“万人计划”科技创新领军人才项目(2020R52011)。
文摘
随着深度学习的广泛应用,研究者在关注模型分类性能的同时,还需要关注模型的决策是否公平可信。存在决策偏见的深度模型会造成极大的负面影响,因此如何维持深度模型的分类正确率,同时提高模型的决策公平至关重要。目前已有工作提出了较多方法,用于改善模型的个体公平,但是这些方法仍然在去偏效果、去偏后模型可用性、去偏效率等方面存在缺陷。为此,文中分析了深度模型存在个体偏见时神经元异常激活现象,提出了一种基于偏见神经元抑制的模型去偏方法NeuronSup,具有显著降低个体偏见、对主任务性能影响小、时间复杂度低等优势。具体而言,首先根据深度模型部分神经元由于个体偏见而产生异常激活的现象提出了偏见神经元的概念。然后,利用歧视样本对查找深度模型中的偏见神经元,通过抑制偏见神经元的异常激活大幅降低深度模型的个体偏见,并且根据每个神经元的最大权重边确定主任务性能神经元,通过保持深度模型的主任务性能神经元参数不变,来减小去偏操作对深度模型分类性能造成的影响。因为NeuronSup只对深度模型中的特定神经元进行去偏操作,所以时间复杂度更低,效率更高。最后,在3个真实数据集的6种敏感属性上开展去偏实验,与5种对比算法相比,NeuronSup将个体公平指标THEMIS降低了50%以上,同时使去偏操作对深度模型分类准确率的影响降低到3%以内,验证了NeuronSup在保证深度模型分类能力的情况下降低个体偏见的有效性。
关键词
个体公平
深度学习
偏见神经元
模型去偏
Keywords
Individual fairness
Deep learning
Bias neurons
Model debiasing
分类号
TP391 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
NeuronSup:基于偏见神经元抑制的深度模型去偏方法
倪洪杰
刘嘉威
郑海斌
陈奕芃
陈晋音
《计算机科学》
CSCD
北大核心
2023
0
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
