近期神经网络算法研究成果

12 提交 / 0个新回复
最新回复
近期神经网络算法研究成果

1、BP的慢速是无可救药的,BP作为非线性函数拟合器非常厉害,效果很好,可惜收敛很慢,因此不适宜于工程应用,理论研究领域更加适合BP大展拳脚。
2、RBF及其相关算法,速度很快,改进后更快,能非常快,在样本范围内拟合效果突出,全面优于BP,唯一不足的一点就是预测性能很差,优于基函数的限制,导致在样本范围外的点内所有结果都会不可救药的下降,换句话说即使预测看起来明显导数为正的函数,预测结果的导数在一定距离后也会为负。
3、目前我发现的最好用的,既快又能预测,还可以应用于工程的 算法只有分段线性化算法,和神经元的关系生拉硬拽也能凑起来,不过负责任的说的话是没什么关系的。。。
分段线性化虽然出来的图像很难看,像方波一样,但是不得不承认只有他的效率和效果是及格的。。。暗影零号
弹性的效率也只是有所提高,而不是很高,关于激活函数,其实BP主要采用反正切类似形状的函数,RBF主要采用高斯函数形状的,这些是算法性质决定的,对于BP,前人经验证明这是最快的函数形状,对于RBF,主要是因为这个算法只能用这样的激活函数,其实RBF更像是数学方法,而非神经网络。。