> 教育经验 > 什么是玻尔兹曼机介绍

什么是玻尔兹曼机介绍

什么是玻尔兹曼机介绍

玻尔兹曼机(Boltzmann machine)是2018年全国科学技术名词审定委员会公布的计算机科学技术名词。是随机神经网络和递归神经网络的一种,由杰弗里·辛顿(Geoffrey Hinton)和特里·谢泽诺斯基(Terry Sejnowski)在1985年发明。

玻尔兹曼机定义

一种由二值随机神经元构成的两层对称连接神经网络。其权值通过优化玻尔兹曼能量函数获得。

玻尔兹曼机出处

《计算机科学技术名词 》第三版。

玻尔兹曼机内容

玻尔兹曼机是一种特殊形式的对数线性的马尔科夫随机场(Markov Random Field,MRF),即能量函数是自由变量的线性函数。 通过引入隐含单元,我们可以提升模型的表达能力,表示非常复杂的概率分布。

玻尔兹曼机可被视作随机过程的,可生成的相应的霍普菲尔德神经网络。它是最早能够学习内部表达,并能表达和(给定充足的时间)解决复杂的组合优化问题的神经网络。但是,没有特定限制连接方式的玻尔兹曼机目前为止并未被证明对机器学习的实际问题有什么用。所以它目前只在理论上显得有趣。然而,由于局部性和训练算法的赫布性质(Hebbian nature),以及它们和简单物理过程相似的并行性,如果连接方式是受约束的(即受限玻尔兹曼机),学习方式在解决实际问题上将会足够高效。

它由玻尔兹曼分布得名。该分布用于玻尔兹曼机的抽样函数。

玻尔兹曼机的图像表示. 每条无向边都表示一对依赖关系. 在这个例子中有三个隐藏节点和四个可见节点,它并不是一个约束玻尔兹曼机(restricted Boltzmann machine)