李飞宏博士提出新型REQ损失函数提升SVM鲁棒性
该文提出一种新型重新缩放指数商(REQ)损失函数,显著提升了系数支持向量模型的鲁棒性,并构建了REQ支持向量模型。由于REQ损失具有非凸特性,研究者通过共轭函数将其转化为每个变量均为凸的二元形式,进而推导出新优化问题的一阶最优性条件。在此基础上,引入工作集机制,充分挖掘REQ损失的稀疏结构,设计出基于半二次优化的快速交替方向乘子法框架,并严格证明了其全局收敛性。
针对分布式场景中因可扩展性或隐私约束而无法与中央节点直接通信的问题,论文进一步构建了基于共识优化的分布式REQ支持向量机,并开发了高效求解算法。
此外,从统计理论层面首次证明了REQ损失函数能有效增强模型对标签噪声与特征噪声的抵抗能力。通过大量实验验证,所提模型的鲁棒性与算法的高效性均获得充分支持。