人工智能时代的《民法典》医疗数据规则体系研究 被引量：8

1

作者 王竹 唐先勇 《南通大学学报（社会科学版）》 CSSCI 北大核心 2024年第5期88-99,160,共13页

《民法典》基于第127条数据治理一般条款初步构建了医疗数据规则体系的雏形,主要以医疗数据中隐私和个人信息的权属规则、授权规则和保护规则的形式体现。人工智能时代的《民法典》医疗数据治理取向应由“保护优先”转变为“保护与应用... 《民法典》基于第127条数据治理一般条款初步构建了医疗数据规则体系的雏形,主要以医疗数据中隐私和个人信息的权属规则、授权规则和保护规则的形式体现。人工智能时代的《民法典》医疗数据治理取向应由“保护优先”转变为“保护与应用兼顾”,根据公开性、敏感性和应用场景进行类型化展开。医疗数据权益属于人格权列举种类之外与人身自由和人格尊严相关的其他人格利益,应归属于患者。依托医疗数据类型化进行分层动态授权,将授权规则纳入诊疗行为、人体临床试验和医学科研等场景中的知情同意范围。将保护对象扩展到全部医疗数据,区别规定敏感医疗数据、非敏感医疗数据和公开医疗数据的保护规则,区分侵害医疗数据造成精神损害和财产损害的法律适用。 展开更多

关键词 人工智能时代 《民法典》 医疗数据规则体系 医疗数据类型化

在线阅读 下载PDF 职称材料

多模态大语言模型的安全性研究综述 被引量：3

2

作者 陈晋音 席昌坤 +2 位作者 郑海斌 高铭 张甜馨 《计算机科学》 北大核心 2025年第7期315-341,共27页

随着大型语言模型的快速发展,多模态大语言模型因其在语言、图像等多种模态上的卓越表现而备受瞩目。其不仅在日常工作中成为用户的得力助手,还逐渐渗透到自动驾驶、医学诊断等各大应用领域。与传统的大型语言模型相比,多模态大语言模... 随着大型语言模型的快速发展,多模态大语言模型因其在语言、图像等多种模态上的卓越表现而备受瞩目。其不仅在日常工作中成为用户的得力助手,还逐渐渗透到自动驾驶、医学诊断等各大应用领域。与传统的大型语言模型相比,多模态大语言模型由于更接近于多资源的现实世界应用以及多模态处理的复杂性而具有巨大的潜力和挑战。然而,多模态大语言模型的脆弱性研究相对较少,这些模型在实际应用中面临着诸多安全性挑战。为此,对多模态大语言模型尤其是大型视觉-语言模型的安全性进行了全面调查。首先,概述了多模态大语言模型的基本结构和发展历程;其次,讨论了多模态大语言模型在使用全周期的安全风险成因,分析了模型结构与安全风险之间的关联性;再次,系统总结了当前在多模态大语言模型图像和文本安全性的评估方面所做的工作,包括模型幻觉、隐私安全、偏见和鲁棒性4个方面,并将针对多模态大语言模型的攻击分为越狱攻击、对抗攻击、后门攻击和中毒攻击;然后,综合概述了一系列针对多模态大语言模型幻觉、隐私泄露和偏见等威胁的可信增强方法以及针对模型恶意攻击的防御措施;最后,讨论了多模态大语言模型安全性研究的主要机遇与挑战,为研究人员在多模态大语言模型的复杂应用和研究领域提供了指导建议。 展开更多

关键词 模态大语言模型 安全 幻觉 对抗 越狱 防御

在线阅读 下载PDF 职称材料

REST API设计安全性检测研究

3

作者 张燕怡 阮树骅 郑涛 《信息网络安全》 北大核心 2025年第8期1313-1325,共13页

在REST API的设计和开发过程中,遵循 REST原则以及最佳实践等规范,对确保REST API服务的一致性、可用性和安全性是至关重要的。针对 REST API设计检测领域中存在的安全维度及语义层面检测机制不完善问题,文章提出一个REST API设计安全... 在REST API的设计和开发过程中,遵循 REST原则以及最佳实践等规范,对确保REST API服务的一致性、可用性和安全性是至关重要的。针对 REST API设计检测领域中存在的安全维度及语义层面检测机制不完善问题,文章提出一个REST API设计安全性检测框架RADSD,旨在从不同结构层次对API设计的安全性进行检测。首先,通过收集整理 REST API相关指导规范并结合实证研究,构建了一个多层次的 REST API 安全设计规范库;然后,针对规范库中各项规范要求设计对应的检测算法,并将大语言模型引入REST API设计检测,实现针对API设计语法和语义的多种检测方法。实验结果证明,RADSD框架能够对业界真实REST API进行多层次检测,识别API存在的设计安全性问题,并生成详细的检测报告,平均准确率达97.1%。 展开更多

关键词 REST API安全性 设计规范 模式匹配 大语言模型

在线阅读 下载PDF 职称材料

高效的隐私保护多方多数据排序

4

作者 商帅 李雄 +3 位作者 张文琪 汪小芬 李哲涛 张小松 《计算机学报》 EI CAS CSCD 北大核心 2024年第8期1832-1852,共21页

安全多方计算允许具有私密输入的多个参与方联合计算一个多输入函数而不泄露各参与方私有输入的任何信息,因此近年来受到广泛关注.作为安全多方计算中的一个基础问题,隐私保护排序允许多个参与方在不泄露数据集隐私的前提下计算多个数... 安全多方计算允许具有私密输入的多个参与方联合计算一个多输入函数而不泄露各参与方私有输入的任何信息,因此近年来受到广泛关注.作为安全多方计算中的一个基础问题,隐私保护排序允许多个参与方在不泄露数据集隐私的前提下计算多个数据集的排序结果,广泛应用于产品定价、拍卖等场景.现有的隐私保护排序协议大多只支持两个参与方.而已有的多方多数据排序协议通信开销大、计算复杂度高,整体效率较低.现有隐私保护排序协议均未考虑恶意参与者的穷举攻击,因此安全保护不足.对此,本文提出一个高效的隐私保护多方多数据排序协议.多个参与方仅需O(1)轮交互即可以隐私保护的方式获得其持有的多个数据的排序结果.具体来讲,本文设计一种基于多项式的编码方法,将参与方的数据集编码为一个多项式,其每项的指数和系数分别代表数据和该数据的个数.通过多项式加法可实现多个参与方数据集的排序.同时,本文设计了多项式加密、聚合多项式生成和解密多项式生成算法,在保证计算正确性的同时实现多项式的隐私保护.最后,各参与方通过不经意传输技术获得排序结果.本文定义了不合谋参与方穷举攻击下的恶意安全.安全性分析表明本文协议不仅实现了半诚实安全性,而且达到了不合谋恶意用户穷举攻击的恶意安全性.此外,大量实验表明本文提出的协议在通信和计算方面都十分高效.如当参与方数量为15、每个参与方持有20000个数据、数据上界为500000时,本文协议的通信和计算开销分别为898.44 MB和69.76 s,仅为LDYW协议的12.08%和76.85%;而相对于AHM+方案,本文协议在通信开销仅增加约4倍的情况下使计算效率提升了约20倍. 展开更多

关键词 隐私计算 安全多方排序 安全数据分析 隐私保护 排序

在线阅读 下载PDF 职称材料

基于多层聚类的自适应扰动匿名化算法及应用

5

作者 熊嘉城 陈兴蜀 兰晓 《现代电子技术》 北大核心 2025年第14期85-89,共5页

传统的K-means聚类算法在实现数据匿名化过程中,存在高维数据处理效率低下、敏感属性保护不足以及信息丢失较大的问题。为此,基于K-means聚类算法和Mondrian算法,提出一种多层聚类的自适应扰动匿名化算法(APMCA)。该算法结合区块映射与... 传统的K-means聚类算法在实现数据匿名化过程中,存在高维数据处理效率低下、敏感属性保护不足以及信息丢失较大的问题。为此,基于K-means聚类算法和Mondrian算法,提出一种多层聚类的自适应扰动匿名化算法(APMCA)。该算法结合区块映射与交叉迭代自适应扰动策略对数据集进行多粒度分区,增强数据划分的适应能力,确保敏感属性在分区内均匀分布,从而在细粒度层面提升隐私保护效果,降低重识别风险。实验结果表明,所提方法能有效进行数据匿名化并提升运行效率,可以满足复杂数据场景的匿名化需求。 展开更多

关键词 数据匿名化 多层聚类 自适应扰动 PCA技术 隐私保护 多粒度分区

在线阅读 下载PDF 职称材料

面向可见光与红外多模态目标检测的对抗攻防综述

6

作者 郑海斌 林秀豪 +1 位作者 陈靖文 陈晋音 《计算机科学》 北大核心 2025年第11期349-363,共15页

目标检测作为计算机视觉中的一项基本任务被广泛应用,而基于深度学习的目标检测算法以其强大的特征提取能力,成为了当前研究的主流。然而大多数目标检测算法仅对可见光图像或红外图像进行单模态检测。通常情况下,可见光图像在天气恶劣... 目标检测作为计算机视觉中的一项基本任务被广泛应用,而基于深度学习的目标检测算法以其强大的特征提取能力,成为了当前研究的主流。然而大多数目标检测算法仅对可见光图像或红外图像进行单模态检测。通常情况下,可见光图像在天气恶劣、夜间、目标被遮挡等场景成像较差,导致检测性能下降。利用红外图像可以改善上述问题,但红外图像会缺失目标的部分细节信息。因此,基于可见光和红外图像的多模态融合检测算法逐渐兴起。然而,现有的研究集中于改善多模态目标检测算法的性能,对于其安全性的研究相对零散。基于现有的研究工作,围绕多模态目标检测对抗安全性进行综述。首先对多模态目标检测及攻防进行理论分析;然后按照不同时段的融合检测对多模态目标检测方法进行分类归纳,再对现有的目标检测对抗攻击方法与对抗防御方法进行归纳整理,梳理了现有的多模态目标检测数据集与主要评价指标;最后探讨了多模态目标检测未来潜在的研究方向,进一步推动多模态目标检测对抗安全研究发展和应用。 展开更多

关键词 目标检测 深度学习 多模态目标检测 对抗攻击 防御

在线阅读 下载PDF 职称材料

基于情感辅助多任务学习的社交网络攻击性言论检测技术研究

7

作者 金地 任昊 +2 位作者 唐瑞 陈兴蜀 王海舟 《信息网络安全》 北大核心 2025年第2期281-294,共14页

随着互联网和移动互联网技术的快速发展,越来越多的人们热衷于在社交网络上获取信息,表达自己的立场和观点。但近年来,社交网络上充斥着越来越多的攻击性言论及其他不良言论,网络暴力大量滋生。目前,攻击性言论检测研究大多集中在英文领... 随着互联网和移动互联网技术的快速发展,越来越多的人们热衷于在社交网络上获取信息,表达自己的立场和观点。但近年来,社交网络上充斥着越来越多的攻击性言论及其他不良言论,网络暴力大量滋生。目前,攻击性言论检测研究大多集中在英文领域,面向中文攻击性言论检测的相关研究较少。针对该问题,首先,文章采集了新浪微博平台中大量的推文数据,并依据制定的标注规则对相关数据进行标注,构建了中文攻击性言论数据集;然后,文章提取了包括情感特征、内容特征、传播特征3个类别在内的统计特征;最后,文章构建了基于多任务学习的攻击性言论检测模型,引入辅助任务情感分析,利用两个任务之间的高度相关性提升模型的检测效果。实验结果表明,文章提出的检测模型对攻击性言论的检测效果优于其他常用检测方法。该研究工作为后续的面向社交网络的攻击性言论检测提供了方法和思路。 展开更多

关键词 攻击性言论 多任务学习 社交网络 深度学习

在线阅读 下载PDF 职称材料

面向高速网络流实时处理的资源自适应伸缩方法 被引量：1

8

作者 康仕才 陈良国 陈兴蜀 《信息网络安全》 北大核心 2025年第1期110-123,共14页

在流处理中,静态资源配置难以应对实时变化且具有突发性的流数据负载,因此需要引入弹性机制。然而,在确定弹性伸缩时机和伸缩策略时,若未充分考虑伸缩的成本与收益之间的平衡,则会引发资源频繁调整,导致系统不稳定或效率降低。为解决这... 在流处理中,静态资源配置难以应对实时变化且具有突发性的流数据负载,因此需要引入弹性机制。然而,在确定弹性伸缩时机和伸缩策略时,若未充分考虑伸缩的成本与收益之间的平衡,则会引发资源频繁调整,导致系统不稳定或效率降低。为解决这一问题,文章提出一种资源自适应伸缩算法,该算法通过分析流数据负载规模和资源使用情况,确定资源伸缩的方向和规模。同时,该算法采用一种最大平均处理吞吐量方法,以伸缩操作前后的处理吞吐量为量化指标评估资源伸缩所带来的开销与收益,优化伸缩策略,避免不必要的资源频繁调整。基于该算法,文章设计了网络流弹性处理框架,以实现框架的灵活扩展与资源的动态调整。在不同网络带宽场景下对框架进行测试,实验结果表明,该算法能够有效权衡开销与收益,精确实现资源的伸缩,应用该算法后,框架资源利用率提高40%以上,能够满足高速网络流处理的性能需求。 展开更多

关键词 网络流 流处理 自适应 资源伸缩

在线阅读 下载PDF 职称材料

基于包长序列的恶意通信行为隐蔽变换方法研究

9

作者 杨榉栋 陈兴蜀 朱毅 《信息网络安全》 北大核心 2025年第5期794-805,共12页

为了向网络入侵检测系统(NIDS)提供变种恶意流量以评估检测模型的能力,文章针对恶意通信行为隐蔽变换方法开展研究。首先,文章通过包长序列刻画流量通信行为,包长序列的改变能够指导恶意流量在数据层面的变换以得到真实可用的变种恶意流... 为了向网络入侵检测系统(NIDS)提供变种恶意流量以评估检测模型的能力,文章针对恶意通信行为隐蔽变换方法开展研究。首先,文章通过包长序列刻画流量通信行为,包长序列的改变能够指导恶意流量在数据层面的变换以得到真实可用的变种恶意流量,进而影响数据包长度的相关统计特征以干扰NIDS检测结果;然后,基于包长序列设计了一种恶意通信行为隐蔽变换方法,该方法选择与待变换恶意流量在包长序列属性上最相似的正常流量作为参考流量,并通过TCP载荷填充和分段两种策略调整恶意流量中数据包的大小,使变种恶意流量的包长序列与正常流量相似,从而实现变种恶意流量对正常流量通信行为的模拟;最后,基于DoH-Brw数据集和CIC-AAGM数据集构建测试数据集,实验结果表明,基于DoH-Brw数据集生成的变种恶意流量在6种NIDS上的检出率平均下降超过60%,基于CIC-AAGM数据集在4种NIDS上的检出率平均下降超过30%,有效证明了该方法的有效性。 展开更多

关键词 网络攻击 流量混淆 恶意流量

在线阅读 下载PDF 职称材料

基于参数语义的日志解析方法

10

作者 邢瀚韬 阮树骅 +1 位作者 陈良国 曾雪梅 《信息网络安全》 北大核心 2025年第4期610-618,共9页

现代信息系统规模日益扩大,通过分析结构各异的多源日志可以快速了解系统行为。日志参数的语义表征了系统中的实体信息,对实现多源日志的联合分析至关重要。但现有解析方法对日志参数的语义特征捕捉不足,存在语义缺失、语义覆盖范围不... 现代信息系统规模日益扩大,通过分析结构各异的多源日志可以快速了解系统行为。日志参数的语义表征了系统中的实体信息,对实现多源日志的联合分析至关重要。但现有解析方法对日志参数的语义特征捕捉不足,存在语义缺失、语义覆盖范围不广、语义识别准确率不足等问题。因此,文章提出一种基于参数语义的日志解析方法(PS-Parser),该方法通过构建BERT模型捕捉日志上下文语义特征,提取日志参数的语义,并通过常规参数语义特征库,补全日志参数不同层次的语义,最终根据参数语义表征系统实体,实现多源日志联合分析。文章在6个多源真实数据集上进行实验,日志参数解析的平均准确率为94.7%,平均语义覆盖率为81.7%,语义解析的平均F1分数为0.991,相较于现有方法有显著提升,验证了所提方法的有效性。最后,针对大数据系统下的日志分析场景,验证了基于参数语义的日志解析方法对多源日志联合分析工作的支持作用。 展开更多

关键词 日志解析 参数语义提取 多源日志分析

在线阅读 下载PDF 职称材料

一种启发式日志模板自动发现方法

11

作者 张书雅 陈良国 陈兴蜀 《信息网络安全》 CSCD 北大核心 2024年第5期767-777,共11页

日志是安全分析领域的重要数据来源。然而,非结构化原始日志无法直接用于安全分析,因此将日志解析为结构化模板是至关重要的第一步。现有的日志解析方法大多假设属于相同日志模板的日志消息具有相同的日志长度,但日志存在变长变量,导致... 日志是安全分析领域的重要数据来源。然而,非结构化原始日志无法直接用于安全分析,因此将日志解析为结构化模板是至关重要的第一步。现有的日志解析方法大多假设属于相同日志模板的日志消息具有相同的日志长度,但日志存在变长变量,导致属于相同模板的日志消息被错误地提取成不同的模板。因此,文章提出一种日志模板自动发现方法KeyParse,首先,基于最长公共子序列算法实现日志与模板的相似度计算,以此忽略变长变量带来的差异性影响,从而实现日志与模板的匹配;其次,基于最高频繁项实现日志模板分组,避免属于相同事件且长度不等的日志消息被划分到不同模板组,减少了模板冗余并提升了模板匹配效率;最后,基于HeavyGuardian算法实现流式日志消息的最高频繁项统计,解决了传统频率统计方法难以适应流式日志消息词频动态变化的问题。实验结果表明,KeyParse在面对多种类型日志集时均具有较高的准确率,平均解析准确度达0.968,并且在解析大型日志集时具有更好的性能。 展开更多

关键词 日志解析 模板分组 模板自动发现

在线阅读 下载PDF 职称材料