期刊文献+
共找到6篇文章
< 1 >
每页显示 20 50 100
一种新的基于凸损失函数的离散扩散文本生成模型
1
作者 李思慧 蔡国永 +1 位作者 蒋航 文益民 《计算机科学》 北大核心 2025年第10期231-238,共8页
扩散语言模型采用的非自回归生成方式能显著提高推理速度,通过迭代重建过程持续优化能提高生成文本质量,因此它在文本生成任务中具有极大潜力。然而,扩散语言模型训练多采用基于极大似然估计的交叉熵损失,即便生成了正确句,也可能因为... 扩散语言模型采用的非自回归生成方式能显著提高推理速度,通过迭代重建过程持续优化能提高生成文本质量,因此它在文本生成任务中具有极大潜力。然而,扩散语言模型训练多采用基于极大似然估计的交叉熵损失,即便生成了正确句,也可能因为没有与参考句严格对齐被惩罚,使扩散语言模型面临严重的多模态问题,进而大大降低了文本生成质量。为了缓解多模态问题,提出了一种基于凸损失函数训练的离散扩散语言模型ConvexDiffusion,该模型利用凸函数可以锐化最优分布这一特性,使模型更专注于高概率输出;为了进一步提高文本生成质量,降低生成词的重复率,设计了一种使噪声标记非线性变化的混合感知噪声表,并在解码过程中采用高置信度确定性去噪策略。在机器翻译、问题生成、问题阐述这3类文本生成任务上的实验结果表明,ConvexDiffusion相比现有领先的扩散模型RDM和非自回归模型CMLM等,性能提升了1~7个BLEU,且具有更快的生成速度。特别是在WMT16’EN-RO和WMT14’EN-DE这两个大型数据集上,ConvexDiffusion的表现超越了目前主导文本生成领域的自回归语言模型。 展开更多
关键词 扩散模型 文本生成 多模态问题 损失函数 凸损失函数
在线阅读 下载PDF
针对鱼眼图像的FastSAM多点标注算法 被引量:2
2
作者 乔人杰 蔡成涛 《哈尔滨工程大学学报》 EI CAS CSCD 北大核心 2024年第8期1427-1433,共7页
为了解决多点表示方法在鱼眼图像人体检测过程中标注成本高的问题,本文提出了基于FastSAM的多点标注算法,将鱼眼图像数据集本身的矩形框标注作为提示引导框,与原图一起作为输入,通过FastSAM获取较为准确的目标分割标注,根据分割标注与... 为了解决多点表示方法在鱼眼图像人体检测过程中标注成本高的问题,本文提出了基于FastSAM的多点标注算法,将鱼眼图像数据集本身的矩形框标注作为提示引导框,与原图一起作为输入,通过FastSAM获取较为准确的目标分割标注,根据分割标注与矩形框的IoU评估分割信息的准确性,对于不准确的个体进一步补全纠错。针对多点表示无法处理中心点不在目标内的问题,提出了基于凸包的多点表示回归策略,直接通过分割信息获取多点表示标注信息,同时设计了相对应的标签分配机制和损失函数。本文的方法可以节省大量的人工成本,同时通过实验验证该算法具有可行性。 展开更多
关键词 多点标注 鱼眼图像 人体检测 FastSAM 凸包 提示矩形框 标签分配 损失函数
在线阅读 下载PDF
面向大规模噪声数据的软性核凸包支持向量机 被引量:6
3
作者 顾晓清 倪彤光 +1 位作者 姜志彬 王士同 《电子学报》 EI CAS CSCD 北大核心 2018年第2期347-357,共11页
现有的面向大规模数据分类的支持向量机(support vector machine,SVM)对噪声样本敏感,针对这一问题,通过定义软性核凸包和引入pinball损失函数,提出了一种新的软性核凸包支持向量机(soft kernel convex hull support vector machine for... 现有的面向大规模数据分类的支持向量机(support vector machine,SVM)对噪声样本敏感,针对这一问题,通过定义软性核凸包和引入pinball损失函数,提出了一种新的软性核凸包支持向量机(soft kernel convex hull support vector machine for large scale noisy datasets,SCH-SVM).SCH-SVM首先定义了软性核凸包的概念,然后选择出能代表样本在核空间几何轮廓的软性核凸包向量,再将其对应的原始空间样本作为训练样本并基于pinball损失函数来寻找两类软性核凸包之间的最大分位数距离.相关理论和实验结果亦证明了所提分类器在训练时间,抗噪能力和支持向量数上的有效性. 展开更多
关键词 大规模数据 噪声 软性核凸包 pinball损失函数 分类
在线阅读 下载PDF
基于ramp损失函数的原空间支持向量机 被引量:2
4
作者 袁玉萍 安增龙 《华东师范大学学报(自然科学版)》 CAS CSCD 北大核心 2016年第2期20-29,共10页
针对传统支持向量机对噪声敏感的问题,给出一种基于不对称形式的二次不敏感控制型ramp损失函数的支持向量回归机,采用凹凸过程优化和光滑技术算法,将非凸优化问题转化为连续且二次可微的凸优化问题,利用有限步终止的Amijo-Newton优化算... 针对传统支持向量机对噪声敏感的问题,给出一种基于不对称形式的二次不敏感控制型ramp损失函数的支持向量回归机,采用凹凸过程优化和光滑技术算法,将非凸优化问题转化为连续且二次可微的凸优化问题,利用有限步终止的Amijo-Newton优化算法,求解所建立的优化模型,并分析了算法的收敛性.该算法不仅可以保持支持向量的稀疏性,而且还可以控制训练样本中的异常值.实验结果表明,该模型保持了很好的泛化能力,无论对模拟数据还是标准数据都具有一定的拟合精度,与标准支持向量机模型相比,不仅能够降低噪声和孤立点的影响,而且也具有较强的鲁棒性. 展开更多
关键词 支持向量回归机 异常值 损失函数 凹凸过程
在线阅读 下载PDF
鲁棒最小二乘支持向量回归机 被引量:2
5
作者 王快妮 马金凤 丁小帅 《计算机应用》 CSCD 北大核心 2011年第8期2111-2114,共4页
针对最小二乘支持向量回归机(LS-SVR)对异常值较敏感的问题,通过设置异常值所造成的损失上界,提出一种非凸的Ramp损失函数。该损失函数导致相应的优化问题的非凸性,利用凹凸过程(CCCP)将非凸优化问题转化为凸优化问题。给出Newton算法... 针对最小二乘支持向量回归机(LS-SVR)对异常值较敏感的问题,通过设置异常值所造成的损失上界,提出一种非凸的Ramp损失函数。该损失函数导致相应的优化问题的非凸性,利用凹凸过程(CCCP)将非凸优化问题转化为凸优化问题。给出Newton算法进行求解并分析了算法的计算复杂度。数据集测试的结果表明,与最小二乘支持向量回归机相比,该算法对异常值具有较强的鲁棒性,获得了更优的泛化能力,同时在运行时间上也具有明显优势。 展开更多
关键词 最小二乘支持向量回归机 鲁棒 异常值 损失函数 凹凸过程
在线阅读 下载PDF
基于凹凸过程的双支持向量机 被引量:2
6
作者 周哲 杨志霞 《重庆理工大学学报(自然科学)》 CAS 2014年第10期90-95,共6页
通过引入Ramp损失函数,针对双支持向量机建立了非凸双支持向量机,并采用凹凸过程迭代求解。与经典的双支持向量机相比,该算法继承了不平行超平面决策的优点,且支持向量的个数减少了很多,使其稀疏性更好,从而提高了运行速度。对人工数据... 通过引入Ramp损失函数,针对双支持向量机建立了非凸双支持向量机,并采用凹凸过程迭代求解。与经典的双支持向量机相比,该算法继承了不平行超平面决策的优点,且支持向量的个数减少了很多,使其稀疏性更好,从而提高了运行速度。对人工数据和基准数据进行数值试验,说明了该算法的可行性和有效性。 展开更多
关键词 支持向量机 凹凸过程 双支持向量机 RAMP 损失函数
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部