Boltzmann机是Hinton与他的同事们提出的模型,它的结点的联接方式上与Hopfield模型很相似。某主要的的不同点是Hinton等人在该模型中引入了所谓“噪声”的概念,从而把物理学家在研究分子物理学中的一些成果引入Hopfield模型中。其目的在于减少网络停留在错误稳态的可能性。在前面章节中还提到网络中引入隐结点可以提高网络计算的能力。但如何通过训练确定带隐结点网络的参数是一个需要解决的问题。Hinton等人的工作提出一种解决办法。Hinton等人还在前馈网络中有隐含层时的训练问题作出主要的贡献。
6.3.1.Boltzmann与噪声
  Boltzmann是十九世纪的物理学家,他在研究气体物理学中,注意到气体分子的运动呈现随机状态,并且这种随机运动与环境温度有关。这种现象也不仅仅局限于气体,在其它物体如金属中分子也有随机运动。随着温度的升高,这种分子随机运动也越趋剧烈。而铁磁物质在磁性能上会因此表现出很大的差异。Hinton等人将这种物理学现象引入到Hopfield模型中,以求减少网络状态在转变过程中停留在寄生稳态的可能性。在前一节中曾提到Hopfield模型


图6-4 带“噪声”的球找到全局最低点
  在状态演变过程中,朝能量函数值持续降低的状态演变。这种情况可用一小球在光滑表面上滑动来比喻,如图6-4右图所示。如果该表面有局部极小值,则该小球就可能陷于局部极值而停留在寄生稳态。但如果小球在运动过程中,不仅有使能量函数降低的总趋势,又具有向上蹦跳的可能性,如果把这种可能性看作是噪声的作用,则它可在噪声的作用下沿能量增加的方向作随机运动。因此当局部极值深度较浅时,就有可能因小球的蹦跳,而脱离该极值,进入到能量值更低的区域中,如图6-4右图所示。Hinton等人正是利用这种联想,把“噪声”引入到网络模型中。由于这种现象从Boltzmann的发现中受到启发,他们称这种模型为Boltzmann机。