摘要
网络结构和样本集复杂性是影响BP网络泛化能力的两个最重要因素.对一个给定的训练样本集,为了构造一个与样本集复杂性相匹配的网络结构,使BP网络具有最佳泛化能力,在分析BP网络的泛化能力(用检测误差E2表示)与网络结构和样本集复杂性之间关系的基础上,建立了含参数的BP网络检测误差E2与网络隐节点数H、样本的因子数n、样本数N和样本集的复相关系数R之间的一般关系表达式,并提出了用于定量描述样本集复杂性的"广义"复相关系数Rn的新概念.借助于222个复杂函数的模拟仿真实验,应用免疫进化算法,对表达式中的参数进行优化,得到参数优化后的网络检测误差E2的定量解析表达式;依据误差理论和灵敏度概念,对优化得到的最小检测误差E20的表达式进行了可靠性论证.在此基础上导出了具有最佳泛化能力的BP网络隐节点数H0与"广义"复相关系数Rn之间满足的H0-Rn反比关系式.分别用满足H0-Rn反比关系式的隐节点数和6个经验公式的隐节点数构造的BP网络用于100个模拟检测函数进行仿真实验,发现前者构造的BP网络具有最佳泛化能力(即最小检测误差)的函数个数达到76个,远远多于后者构造的BP网络具有最佳泛化能力的函数个数;还将二者构造的BP网络用于环境预测的7个具体实例,进行预测效果比较,结果表明,前者预测的相对误差绝对值的平均值和最大值小于或远小于后者的相应值.从而验证了由H0-Rn反比关系式得出的BP网络隐节点数计算公式的可行性和实用性,为具有最佳泛化能力的BP网络的结构设计指出了新途径.
- 单位