科研之友
微信
新浪微博
Facebook
分享链接
摘要
本发明涉及人工智能神经网络领域,一种基于概率分布的Sigmoid函数拟合方法,将Sigmoid函数应用于神经网络的激活函数,根据Sigmoid函数的二阶导数,将Sigmoid函数划分为三个固定的区域；近似常数区Sigmoid函数值固定为0或者1,另外两个固定的区域划分成多个拟合函数子分段,二阶导数越小时,包含此点的区间间隔较大。本发明将Sigmoid函数分为三个固定区域,每一层神经元根据该层神经元输出值在三个区域的概率分布大小,采用不同的分段线性函数,使得有限的硬件资源更多得用于概率较大的区域。
- 单位
