国家自然科学基金(11201051)
- 作品数：2 被引量：4H指数：1
- 相关作者：杨洁吴微刘燕姚明臣更多>>
- 相关机构：大连理工大学大连工业大学黑龙江大学更多>>
- 发文基金：国家自然科学基金更多>>
- 相关领域：自动化与计算机技术交通运输工程更多>>
- 基于特定随机输入样本的模糊δ规则的收敛性
- 2013年
- 讨论在样本模糊可分条件下,基于特定随机输入样本的模糊δ规则的收敛性。基于特定随机输入是指样本按轮次输入网络,每一轮按照随机排序选取样本。证明在训练过程中权值单调下降,并最终达到收敛,给出了学习步长的选取范围。
- 刘燕姚明臣
- 关键词：模糊感知器
- 用于神经网络权值稀疏化的L_(1/2)正则化方法被引量：4
- 2015年
- 在保证适当学习精度前提下,神经网络的神经元个数应该尽可能少(结构稀疏化),从而降低成本,提高稳健性和推广精度.本文采用正则化方法研究前馈神经网络的结构稀疏化.除了传统的用于稀疏化的L1正则化之外,本文主要采用近几年流行的L1/2正则化.为了解决L1/2正则化算子不光滑、容易导致迭代过程振荡这一问题,本文试图在不光滑点的一个小邻域内采用磨光技巧,构造一种光滑化L1/2正则化算子,希望达到比L1正则化更高的稀疏化效率.本文综述了近年来作者在用于神经网络稀疏化的L1/2正则化的一些工作,涉及的神经网络包括BP前馈神经网络、高阶神经网络、双并行前馈神经网络,以及Takagi-Sugeno模糊模型.
- 吴微杨洁
- 关键词：神经网络稀疏化
