一种可自适应分组的多输入多输出支持向量机算法

毛文涛 1; 冯云芝 1; 闫桂荣 2

doi:10.7652/xjtuxb201306009

您当前的位置：

首页 >

文章列表页 >

一种可自适应分组的多输入多输出支持向量机算法

更新时间：2025-05-01

- 一种可自适应分组的多输入多输出支持向量机算法
- New Support Vector Machine with Multi-Input and Multi-Output Based on Adaptive Grouping
- 西安交通大学学报 2013年47卷第6期页码：50-54+72
- 作者机构：
  
  河南师范大学计算机与信息工程学院,河南,新乡,453007
- 作者简介：
- 基金信息：
  
  : 2012-09-23。作者简介: 毛文涛(1980—),男,博士,讲师;闫桂荣(通信作者),女,教授,博士生导师。基金项目: 国家自然科学基金资助项目(U1204609);河南省基础与前沿技术研究计划资助项目(122300410111)
- DOI：10.7652/xjtuxb201306009
  中图分类号： TP181
- 网络首发：2013-06-10，
  
  纸质出版：2013
- 稿件说明：
移动端阅览
毛文涛 1, 冯云芝 1, 闫桂荣 2. 一种可自适应分组的多输入多输出支持向量机算法[J]. 西安交通大学学报, 2013,47(6):50-54+72.

New Support Vector Machine with Multi-Input and Multi-Output Based on Adaptive Grouping[J]. 2013, 47(6): 50-54+72.
毛文涛 1, 冯云芝 1, 闫桂荣 2. 一种可自适应分组的多输入多输出支持向量机算法[J]. 西安交通大学学报, 2013,47(6):50-54+72. DOI： 10.7652/xjtuxb201306009.

New Support Vector Machine with Multi-Input and Multi-Output Based on Adaptive Grouping[J]. 2013, 47(6): 50-54+72. DOI： 10.7652/xjtuxb201306009.

摘要

针对不同输出端之间相关程度的差异对多输入多输出回归模型泛化能力的影响

提出了一种基于自适应分组的多输入多输出支持向量机算法。该算法基于相关性强的输出端其模型参数也较相似的假设

首先在多维支持向量机的基础上引入带分组结构的正则项

进而将上述正则化问题转变为混合0-1规划; 其次

采用交替优化的方法

使相关性强的输出端在同一个分组内进行独立训练

最终自适应地识别最优分组结构和模型参数。分别采用仿真数据和圆柱壳振动工程数据对所提算法进行测试

结果表明

该算法可有效辨识出输出端的相关度

与传统算法相比

该算法可有效提高支持向量机回归模型的泛化能力。

Abstract

Recently

multi-dimensional support vector regression(M-SVR)has been a promising tool in solving a wide range of multi-input and multi-output(MIMO)regression problems. However

when some output dimensions have more dependencies than others

M-SVR is are generally hard to obtain impressive performance due to the negative or redundant domain knowledge across all outputs. A structure of adaptive grouping is introduced into the M-SVR to solve the problem. It is assumed that model parameters of related output dimensions are similar to each other

then a new regularization-based M-SVR algorithm is presented by introducing a regularizer with grouping structure. The regularization problem is then converted into a mixed 0-1 programming problem. Alternating optimization is employed for learning related outputs jointly in the same group

and to obtain the optimal grouping structure and model parameters through adaptively identifying the grouping structure. The proposed algorithm is tested empirically on a toy problem as well as a real-life data set. The experimental results show that the performance of the proposed algorithm outperforms the performance of the classical M-SVR and the single-output SVM algorithm.

关键词

Keywords

references

VAPNIK V N. The nature of statistical learning theory [M]. New York, USA: Springer, 1995.

PÉREZ-CRUZ F, CAMPS-VALLS G, SORIA-OLIVAS E, et al. Multi-dimensional function approximation and regression estimation [M] ∥ Lecture Notes in Computer Science: Vol. 2415. Berlin, Germany: Springer-Verlag, 2002: 757-762.

SÁNCHEZ-FERNÁNDEZ M, DE-PRADO-CUMPLIDO M, ARENAS-GARCÍA J, et al. SVM multiregression for nonlinear channel estimation in multiple-input multiple-output systems [J]. IEEE Transactions on Signal Processing, 2004, 52(8): 2298-2307.

KANG Z, GRAUMAN K, SHA F. Learning with whom to share in multi-task feature learning [C]∥Proceedings of the 28th International Conference on Machine Learning(ICML). New York, USA: ACM, 2011: 521-528.

胡运权, 郭耀煌. 运筹学教程 [M]. 3版. 北京: 清华大学出版社, 2007.

CAWLEY G C, TALBOT N L C. Preventing over-fitting in model selection via Bayesian regularisation of the hyper-parameters [J]. Journal of Machine Learning Research, 2007, 8: 841-861.

毛文涛. 支持向量回归机模型选择研究及在综合力学环境预示中的应用 [D]. 西安: 西安交通大学, 2011.

司刚全, 娄勇,张寅松.一种鲁棒最小二乘支持向量机及其在软测量中的应用.2012,46(8):15-21.

梁炎明,刘丁.规则递归T-S模糊模型及其辨识方法.2012,46(8):54-58.

吴德,刘三阳.支持向量域多分类器.2012,46(6):87-91.

丁要军,蔡皖东.采用两阶段策略模型(KTSVM)的P2P流量识别方法.2012,46(2):45-50.

杨宏晖,戴健,孙进才,等.用于水声目标识别的自适应免疫特征选择算法.2011,45(12):28-32.

贾立新,郑伊飞,曹晖.利用极值蚁群优化的制粉出力建模变量选择算法.2011,45(10):7-12.

丁军平,蔡皖东.面向元信息分类的支持向量机改进技术.2011,45(8):37-41.

丁晓剑,赵银亮.优化极限学习机的序列最小优化方法.2011,45(6):7-12.

李志雄,严新平.独立分量分析和流形学习在VSC-HVDC系统故障诊断中的应用.2011,45(2):44-48.

张周锁,侯照文,孙闯,等.应用粒计算的混合智能故障诊断技术研究.2011,45(1):48-53.

浏览量

下载量

CSCD

文章被引用时，请邮件提醒。

提交

工具集

关联资源

面向分类去噪问题的模糊支持向量机新算法

一种新的浮选泡沫图像识别方法

泛化的统一切比雪夫多项式核函数

基于样本熵的注意力相关脑电特征信息提取与分类

一种新的选择性支持向量机集成学习算法