李伟令
- 作品数：1 被引量：2H指数：1
- 供职机构：东南大学自动化学院更多>>
- 发文基金：国家教育部博士点基金江苏省自然科学基金国家自然科学基金更多>>
- 相关领域：自动化与计算机技术更多>>
- 基于误差函数的自然梯度法及其在MLP学习中的应用被引量：2
- 2011年
- 在激活函数选为误差函数的条件下,给出了求Fisher信息矩阵逆的算法,并进行仿真验证.首先将自然梯度法应用于多层感知器学习中,并与BP(back-propagation)算法进行了比较,说明了自然梯度法能够加快学习速度,并且可能避免学习中出现平坦区现象,即使出现平坦区,也不会很严重.仿真验证了自然梯度法上述良好的学习性能,并且它渐近的逼近Cramer-Rao下界,从而验证了自然梯度学习是Fisher优效的,而通常的梯度法则不是Fisher优效的.另外,仿真也证实了自然梯度对训练样本中存在的噪声具有很好的鲁棒性.
- 李伟令魏海坤张侃健
- 关键词：多层感知器
