我是神经网络的新手。我一直在尝试实现一个两层网络来学习使用反向传播算法的异或函数。隐藏层有2个单元，输出层有1个单元。所有单元都使用sigmoid激活函数。

我正在初始化-1到1之间的权重并具有1偏差。

问题在于，当使用其他一些随机权重值从头开始重新初始化时，网络学习该函数的次数非常少。它在非常少的迭代中学习其他布尔函数（AND，OR），几乎每次都针对几乎所有随机分配的权重。问题在于XOR函数——它不能收敛到某些随机权重值的最佳值。

我使用随机梯度下降，反向传播来学习。

我的代码：http://ideone.com/IYPW2N

隐藏层的计算输出函数代码：

public double computeOutput(double[] input){
    this.input = input;
    output = bias+w[0]*input[0] + w[1]*input[1];
    output = 1/(1+Math.pow(Math.E, -output));    
    return output;
}

计算错误函数代码：

public double computeError(double w, double outputUnitError){
    error = (output)*(1-output)*(outputUnitError*w);  
    return error;        
}

修复隐藏单元的错误：

public void fixError(){  
    for(int i=0;i<input.length;++i) w[i] += n*error*input[i]; 
}

输出单元的计算输出功能：

public void computeOutput(double[] input) { 
    this.input = input;  
    output = bias+input[0]*w[0]+input[1]*w[1];
    output = 1/(1+Math.pow(Math.E, -output));   
} 

输出单元的computeError函数：

public void computeError(double t){ 
    this.t = t; 
    error = (output)*(1-output)*(t-output); 
}

输出Unit的fix Error函数（更新权重）：

public void fixError() {     
    for(int i=0;i<w.length;++i) w[i] += n*error*input[i]; 
}   

一旦在任何迭代中，所有示例都被正确分类，代码就会停止训练。否则，当迭代次数超过90k时，它就会停止。

学习率设置为0.05。如果输出单元的值大于0.5，则计为1，否则计为0。

培训实例：

static Example[] examples = {
        new Example(new double[]{0, 0}, 0),
        new Example(new double[]{0,  1}, 1),
        new Example(new double[]{1, 0}, 1),
        new Example(new double[]{1,  1}, 0)
};

代码输出：

Iterations > 90000, stop...
Displaying outputs for all examples... 
0.018861254512881773
0.7270271284494716
0.5007550527204925
0.5024353957353963

Training complete. No of iterations = 45076
Displaying outputs for all examples... 
0.3944511789979849
0.5033004761575361
0.5008283246200929
0.2865272493546562

Training complete. No of iterations = 39707
Displaying outputs for all examples... 
0.39455754434259843
0.5008762488126696
0.5029579167912538
0.28715696580224176

Iterations > 90000, stop...
Displaying outputs for all examples... 
0.43116164638530535
0.32096730276984053
0.9758219334403757
0.32228953888593287

我已经尝试了学习率的几个值并增加了隐藏层单元的数量，但它仍然没有学习异或。

请纠正我哪里弄错了，或者实现中是否有bug。

我检查了其他线程，但没有得到任何令人满意的解决方案。