混合高斯模型的熵惩罚最大似然估计与自动模型选择

Entropy Penalized Maximum-Likelihood Estimate on Gaussian Mixture with Automated Model Selection

在线阅读下载PDF

导出

摘要有限高斯混合模型是一种重要的概率模型,并在聚类分析,模式识别和信号处理等方面有着广泛的应用.在高斯(即正态)分量个数K未知时,仅仅根据样本数据来确定K是一个非常困难的问题.这实际上是一个模型选择问题,直接影响着应用的效果.为了解决这一模型选择问题,本文在一维混合高斯模型下提出了基于熵惩罚最大似然估计的梯度算法.实验表明这种算法能够在参数估计过程中自动实现模型选择,使得多余高斯分量的混合比例系数衰减为零.

作者刘伯芹马尽文

出处《信号处理》 CSCD 2003年第z1期253-256,共4页 Journal of Signal Processing

基金本项目受国家自然科学基金资助:60071004

关键词高斯混合模型最大似然估计熵惩罚梯度算法.

分类号 TN911.7 [电子电信—通信与信息系统]

作者简介马尽文:1992年于南开大学概率论与数理统计专业博士研究生毕业.随后在汕头大学数学研究所工作,1999年晋升为应用数学专业正教授.2001年9月调入北京大学数学科学学院信息科学系.目前已发表学术论文40余篇,参编专著2部.主要研究方向为:神经网络理论及应用,信息处理与编码,生物信息学,模式识别与聚类分析等.刘伯芹:1998年于青岛海洋大学应用数学系毕业.现为北京大学应用数学专业硕士研究生.

引文网络
相关文献

参考文献11

1[1]G. J. Mclachlan and K. E. Basford, Mixture Models: Inference and Applications to Clustering, New York: Marcel Dekker, 988.
2[2]R. A. Render and H. F. Walker,"Mixture densities,maximum likelihood and the EM algorithm",SIAM Review, vol.26, no.2, pp. 195-239, 1984.
3[3]J. A. Hartigan, "Distribution problems in clustering," Classification and clustering, J.Van Ryzin Eds., pp. 45-72, New York:Academic Press, 1977.
4[4]H. Akaike, "A New Look at the Statistical Model Identification", IEEE Transac-ons on Automatic Control, vol. AC-19, pp. 716-723,1974.
5[5]H. Bozdogan, Multiple Sample Cluster Analysis and Approachesto Validity Studies in Clustering Individuals, Doctoral Dissertation,University of Illinois at Chicago Circle, 1981.
6[6]H. Bozdogan, "Model Selection and Akaike′s Information Criterion: The General Theory and its Analytical Extensions", Psychometrika,vol.52, no.3, pp. 345-370, 1987.
7[7]G. Scharz, "Estimating the dimension of a model",The Annals of Statistics, vol.6, no.2, pp.461-464, 1978.
8[8]Jinwen Ma, Taijun Wang and Lei Xu, "An adaptive BYY harmony learning algorithm and its relation to rewarding and penalizing learning mechanism", Proc. of ICSP′02, vol.2,pp:1154-1158.
9[9]Jinwen Ma, Taijun Wang and Lei Xu, "An iterative algorithm for BYY Learning on Gaussian mixture with automated model selection", To appear in Proc. of ICNNSP′03.
10[10]Jinwen Ma, Taijun Wang and Lei Xu, "Two annealing Algorithms for BYY learning on Gaussian mixture with automated model selection", To appear in Proc. of ICNNSP′03.

1张扬.基于动态数量高斯分量的关键词识别系统[J].华中科技大学学报（自然科学版）,2015,43(S1):78-80.
2李海松,张奇荣,权海洋.DDS的相位截断及相应的杂散信号分析[J].微电子学与计算机,2006,23(2):141-143. 被引量：30
3李玲,王宏志,王艳玲,王晓梅.平稳噪声中的谐波恢复[J].长春工业大学学报,2005,26(1):34-37. 被引量：2
4巩华荣,宫玉彬,唐昌建,王文祥,魏彦玉,段兆云.速调管离子噪声特性的模拟分析[J].强激光与粒子束,2005,17(3):431-435.
5闵苏,刘庆华.基于非负矩阵分解的欠定卷积盲源分离方法[J].桂林电子科技大学学报,2013,33(1):1-3. 被引量：2
6王超,侯丽敏.一种新的高斯混合模型参数估计算法[J].上海大学学报（自然科学版）,2005,11(5):475-480. 被引量：3
7何建超,章坚武,吴震东.一种基于筛选高斯分量的说话人确认方法[J].杭州电子科技大学学报（自然科学版）,2015,35(6):50-54.
8郑华,裴承鸣,秦淋.基于高斯混合模型的粒子滤波时频分析算法[J].测控技术,2011,30(3):83-86.
9黄宁,朱敏慧,张守融.一种采用高斯隐马尔可夫随机场模型的遥感图像分类算法[J].电子与信息学报,2003,25(1):50-53. 被引量：5
10彭耿,王泽众,陆凤波,黄知涛.单通道混合信号中的LFM信号分量检测与个数估计[J].信息与控制,2014,43(4):470-475.

信号处理

2003年第z1期

浏览历史

内容加载中请稍等...

混合高斯模型的熵惩罚最大似然估计与自动模型选择

参考文献11

相关作者

相关机构

相关主题

浏览历史