期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
3
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
针对音频识别的物理世界音素对抗攻击
1
作者
王嘉凯
孔宇升
+5 位作者
陈镇东
胡琎
尹子鑫
马宇晴
杨晴虹
刘祥龙
《计算机研究与发展》
北大核心
2025年第3期751-764,共14页
语音识别等智能技术在自动驾驶、物联网等场景下得到了广泛的应用.近年来,针对语音识别的对抗攻击研究逐渐受到关注.然而,现有的大多数研究主要依赖于粗粒度的音频特征来在实例级别生成对抗噪声,这导致生成时间成本高昂且攻击能力弱.考...
语音识别等智能技术在自动驾驶、物联网等场景下得到了广泛的应用.近年来,针对语音识别的对抗攻击研究逐渐受到关注.然而,现有的大多数研究主要依赖于粗粒度的音频特征来在实例级别生成对抗噪声,这导致生成时间成本高昂且攻击能力弱.考虑到所有语音可以被视为基本音素的不同组合,提出了一个基于音素的通用对抗攻击方法——音素对抗噪声(phonemic adversarial noise,PAN),该方法通过攻击在音频数据中普遍存在的音素级别的细粒度音频特征,以生成音素级对抗噪声,取得了更快的对抗噪声生成速度并具备更强的通用攻击能力.为了全面地评估所提出的PAN框架,在实验中基于Libri Speech等多种语音识别任务中被广泛采用的公开数据集,对提出的音素对抗噪声的攻击有效性、跨数据集的泛化能力、跨模型迁移攻击能力和跨任务迁移攻击能力进行了验证,并进一步在物理世界设备中证实了对民用智能音频识别应用的攻击效果.实验结果表明,所提出的方法比其他对比方法的攻击能力提高了38%,生成速度快了24倍以上,且提出的采样策略和学习方法对降低训练时间和提升攻击能力具有重要作用.
展开更多
关键词
人工智能安全
对抗攻击
音频识别
物理攻击
音素对抗噪声
在线阅读
下载PDF
职称材料
一种基于安全多方计算的快速Transformer安全推理方案
被引量：
2
2
作者
刘伟欣
管晔玮
+3 位作者
霍嘉荣
丁元朝
郭华
李博
《计算机研究与发展》
EI
CSCD
北大核心
2024年第5期1218-1229,共12页
Transformer模型在自然语言处理、计算机视觉等众多领域得到了广泛应用,并且有着突出的表现.在Transformer的推理应用中用户的数据会被泄露给模型提供方.随着数据隐私问题愈发得到公众的关注,上述数据泄露问题引发了学者们对Transforme...
Transformer模型在自然语言处理、计算机视觉等众多领域得到了广泛应用,并且有着突出的表现.在Transformer的推理应用中用户的数据会被泄露给模型提供方.随着数据隐私问题愈发得到公众的关注,上述数据泄露问题引发了学者们对Transformer安全推理的研究,使用安全多方计算(secure multi-party computation,MPC)实现Transformer模型的安全推理是当前的一个研究热点.由于Transformer模型中存在大量非线性函数,因此使用MPC技术实现Transformer安全推理会造成巨大的计算和通信开销.针对Transformer安全推理过程中开销较大的Softmax注意力机制,提出了2种MPC友好的注意力机制Softmax freeDiv Attention和2Quad freeDiv Attention.通过将Transformer模型中的Softmax注意力机制替换为新的MPC友好的注意力机制,同时结合激活函数GeLU的替换以及知识蒸馏技术,提出了一个MPC友好的Transformer转换框架,通过将Transformer模型转化为MPC友好的Transformer模型,提高Transformer安全推理的效率.在局域网环境下使用安全处理器(secure processing unit,SPU)提供的隐私计算协议,基于所提出的MPC友好的Transformer转换框架,在SST-2上使用Bert-Base进行安全推理.测试结果表明,在保持推理准确率与无近似模型一致的情况下,安全推理计算效率提高2.26倍.
展开更多
关键词
安全推理
TRANSFORMER
安全多方计算
安全处理器
知识蒸馏
在线阅读
下载PDF
职称材料
基于改动树检索的拉取请求描述生成方法
被引量：
1
3
作者
蒋竞
刘子豪
+1 位作者
张莉
汪亮
《软件学报》
EI
CSCD
北大核心
2024年第11期5065-5082,共18页
随着开源人工智能系统规模的扩大,软件的开发与维护也变得困难.GitHub是开源社区最重要的开源项目托管平台之一,通过GitHub提供的拉取请求系统,开发者可以方便地参与到开源项目的开发.拉取请求的描述可以帮助项目核心团队理解拉取请求...
随着开源人工智能系统规模的扩大,软件的开发与维护也变得困难.GitHub是开源社区最重要的开源项目托管平台之一,通过GitHub提供的拉取请求系统,开发者可以方便地参与到开源项目的开发.拉取请求的描述可以帮助项目核心团队理解拉取请求的内容和开发者的意图,促进拉取请求被接受.当前,存在可观比例的开发者没有为拉取请求提供描述,既增加了核心团队的工作负担,也不利于项目日后的维护工作.提出一种自动为拉取请求生成描述的方法PRSim.所提方法提取拉取请求包含的提交说明、注释更新和代码改动等特征,建立语法改动树,使用树结构自编码器编码以检索代码改动相似的其他拉取请求,参照相似拉取请求的描述,使用编码器-解码器网络概括提交说明和注释更新,生成新拉取请求的描述.实验结果表明,PRSim的生成效果在Rouge-1、Rouge-2和Rouge-L这3个指标的F1分数上分别达到36.47%、27.69%和35.37%,与现有方法LeadCM相比分别提升了34.3%、75.2%和55.3%,与方法Attn+PG+RL相比分别提升了16.2%、22.9%和16.8%,与方法PRHAN相比分别提升了23.5%、72.0%和24.8%.
展开更多
关键词
拉取请求
语法改动树
相似度计算
自动摘要
开源社区
在线阅读
下载PDF
职称材料
题名
针对音频识别的物理世界音素对抗攻击
1
作者
王嘉凯
孔宇升
陈镇东
胡琎
尹子鑫
马宇晴
杨晴虹
刘祥龙
机构
北京
中关村
实验室
复杂
关键
软件
环境
全国
重点
实验室
(
北京航空航天大学
)
北京航空航天大学
自动化科学与电气工程学院
南栖仙策(南京)科技有限公司
北京航空航天大学
软件
学院
合肥综合性国家科学中心数据空间研究院
出处
《计算机研究与发展》
北大核心
2025年第3期751-764,共14页
文摘
语音识别等智能技术在自动驾驶、物联网等场景下得到了广泛的应用.近年来,针对语音识别的对抗攻击研究逐渐受到关注.然而,现有的大多数研究主要依赖于粗粒度的音频特征来在实例级别生成对抗噪声,这导致生成时间成本高昂且攻击能力弱.考虑到所有语音可以被视为基本音素的不同组合,提出了一个基于音素的通用对抗攻击方法——音素对抗噪声(phonemic adversarial noise,PAN),该方法通过攻击在音频数据中普遍存在的音素级别的细粒度音频特征,以生成音素级对抗噪声,取得了更快的对抗噪声生成速度并具备更强的通用攻击能力.为了全面地评估所提出的PAN框架,在实验中基于Libri Speech等多种语音识别任务中被广泛采用的公开数据集,对提出的音素对抗噪声的攻击有效性、跨数据集的泛化能力、跨模型迁移攻击能力和跨任务迁移攻击能力进行了验证,并进一步在物理世界设备中证实了对民用智能音频识别应用的攻击效果.实验结果表明,所提出的方法比其他对比方法的攻击能力提高了38%,生成速度快了24倍以上,且提出的采样策略和学习方法对降低训练时间和提升攻击能力具有重要作用.
关键词
人工智能安全
对抗攻击
音频识别
物理攻击
音素对抗噪声
Keywords
security of artificial intelligence
adversarial attack
audio recognition
physical attack
phonemic adversarial noise
分类号
TP391 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
一种基于安全多方计算的快速Transformer安全推理方案
被引量：
2
2
作者
刘伟欣
管晔玮
霍嘉荣
丁元朝
郭华
李博
机构
北京航空航天大学
网络空间安全学院
复杂
关键
软件
环境
全国
重点
实验室
(
北京航空航天大学
)
出处
《计算机研究与发展》
EI
CSCD
北大核心
2024年第5期1218-1229,共12页
基金
国家重点研发计划(2021YFB2700200)
国家自然科学基金项目(U21B2021,61972018,61932014)。
文摘
Transformer模型在自然语言处理、计算机视觉等众多领域得到了广泛应用,并且有着突出的表现.在Transformer的推理应用中用户的数据会被泄露给模型提供方.随着数据隐私问题愈发得到公众的关注,上述数据泄露问题引发了学者们对Transformer安全推理的研究,使用安全多方计算(secure multi-party computation,MPC)实现Transformer模型的安全推理是当前的一个研究热点.由于Transformer模型中存在大量非线性函数,因此使用MPC技术实现Transformer安全推理会造成巨大的计算和通信开销.针对Transformer安全推理过程中开销较大的Softmax注意力机制,提出了2种MPC友好的注意力机制Softmax freeDiv Attention和2Quad freeDiv Attention.通过将Transformer模型中的Softmax注意力机制替换为新的MPC友好的注意力机制,同时结合激活函数GeLU的替换以及知识蒸馏技术,提出了一个MPC友好的Transformer转换框架,通过将Transformer模型转化为MPC友好的Transformer模型,提高Transformer安全推理的效率.在局域网环境下使用安全处理器(secure processing unit,SPU)提供的隐私计算协议,基于所提出的MPC友好的Transformer转换框架,在SST-2上使用Bert-Base进行安全推理.测试结果表明,在保持推理准确率与无近似模型一致的情况下,安全推理计算效率提高2.26倍.
关键词
安全推理
TRANSFORMER
安全多方计算
安全处理器
知识蒸馏
Keywords
secure inference
Transformer
secure multi-party computation(MPC)
secure processing unit(SPU)
knowledge distillation
分类号
TP309 [自动化与计算机技术—计算机系统结构]
在线阅读
下载PDF
职称材料
题名
基于改动树检索的拉取请求描述生成方法
被引量：
1
3
作者
蒋竞
刘子豪
张莉
汪亮
机构
复杂
关键
软件
环境
全国
重点
实验室
(
北京航空航天大学
)
计算机
软件
新技术国家
重点
实验室
(南京
大学
)
出处
《软件学报》
EI
CSCD
北大核心
2024年第11期5065-5082,共18页
基金
科技创新2030—“新一代人工智能”重大项目(2021ZD0112901)
国家自然科学基金(62177003,62172203)。
文摘
随着开源人工智能系统规模的扩大,软件的开发与维护也变得困难.GitHub是开源社区最重要的开源项目托管平台之一,通过GitHub提供的拉取请求系统,开发者可以方便地参与到开源项目的开发.拉取请求的描述可以帮助项目核心团队理解拉取请求的内容和开发者的意图,促进拉取请求被接受.当前,存在可观比例的开发者没有为拉取请求提供描述,既增加了核心团队的工作负担,也不利于项目日后的维护工作.提出一种自动为拉取请求生成描述的方法PRSim.所提方法提取拉取请求包含的提交说明、注释更新和代码改动等特征,建立语法改动树,使用树结构自编码器编码以检索代码改动相似的其他拉取请求,参照相似拉取请求的描述,使用编码器-解码器网络概括提交说明和注释更新,生成新拉取请求的描述.实验结果表明,PRSim的生成效果在Rouge-1、Rouge-2和Rouge-L这3个指标的F1分数上分别达到36.47%、27.69%和35.37%,与现有方法LeadCM相比分别提升了34.3%、75.2%和55.3%,与方法Attn+PG+RL相比分别提升了16.2%、22.9%和16.8%,与方法PRHAN相比分别提升了23.5%、72.0%和24.8%.
关键词
拉取请求
语法改动树
相似度计算
自动摘要
开源社区
Keywords
pull request
syntax modification tree
similarity calculation
automatic summarization
open-source community
分类号
TP311 [自动化与计算机技术—计算机软件与理论]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
针对音频识别的物理世界音素对抗攻击
王嘉凯
孔宇升
陈镇东
胡琎
尹子鑫
马宇晴
杨晴虹
刘祥龙
《计算机研究与发展》
北大核心
2025
0
在线阅读
下载PDF
职称材料
2
一种基于安全多方计算的快速Transformer安全推理方案
刘伟欣
管晔玮
霍嘉荣
丁元朝
郭华
李博
《计算机研究与发展》
EI
CSCD
北大核心
2024
2
在线阅读
下载PDF
职称材料
3
基于改动树检索的拉取请求描述生成方法
蒋竞
刘子豪
张莉
汪亮
《软件学报》
EI
CSCD
北大核心
2024
1
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
