邓飞
- 作品数：2 被引量：5H指数：2
- 供职机构：广西大学计算机与电子信息学院更多>>
- 发文基金：广西大学科研基金国家自然科学基金更多>>
- 相关领域：自动化与计算机技术更多>>
- Pi-sigma神经网络的乘子法随机单点在线梯度算法被引量：3
- 2011年
- 在利用梯度算法训练Pi-sigma神经网络时,存在因权值选取过小导致收敛速度过慢的问题,而采用一般罚函数法虽然可以克服这个缺点,但要求罚因子必须趋近于∞且惩罚项绝对值不可微,从而导致数值求解困难。为克服以上缺点,提出了一种基于乘子法的随机单点在线梯度算法。利用最优化理论方法,将有约束问题转换为无约束问题,利用乘子法来求解网络误差函数。从理论上分析了算法的收敛速度和稳定性,仿真实验结果验证了算法的有效性。
- 喻昕邓飞唐利霞
- 关键词：PI-SIGMA神经网络梯度算法乘子法收敛速度稳定性
- 递归pi-sigma神经网络的带惩罚项的梯度算法分析被引量：2
- 2013年
- 传统的梯度算法存在收敛速度过慢的问题,针对这个问题,提出一种将惩罚项加到传统误差函数的梯度算法以训练递归pi-sigma神经网络,算法不仅提高了神经网络的泛化能力,而且克服了因网络初始权值选取过小而导致的收敛速度过慢的问题,相比不带惩罚项的梯度算法提高了收敛速度。从理论上分析了带惩罚项的梯度算法的收敛性,并通过实验验证了算法的有效性。
- 喻昕邓飞
- 关键词：梯度算法惩罚项收敛性
