Boltzmann machine (original) (raw)
Eine Boltzmann-Maschine ist in der Art ein rekurrentes neuronales Netz, das nach dem österreichischen Wissenschaftler Ludwig Boltzmann benannt wurde. Entwickelt wurde diese von Geoffrey Hinton und Terrence J. Sejnowski im Jahre 1985. Diese Maschinen können zu komplexeren Systemen aneinandergereiht werden wie zum Beispiel tiefe Glaubensnetzwerke. Die Boltzmann-Maschine wird auch stochastischens Hopfield-Netzwerk mit versteckten Einheiten genannt. Beschränkt man die Verbindungen zwischen den Neuronen jedoch, lässt sich der Lernvorgang stark vereinfachen, wodurch Beschränkte Boltzmann-Maschinen sich zur Lösung praktischer Probleme einsetzen lassen.
Property | Value |
---|---|
dbo:abstract | Una màquina de Boltzmann és un tipus de . El nom li fou donat pels investigadors Geoffrey Hinton i . Les màquines de Boltzmann poden considerar-se com la contrapartida estocàstica i de les xarxes de Hopfield. Van ser dels primers tipus de xarxes neuronals capaços d'aprendre mitjançant representacions internes, són capaços de representar i (amb temps suficient) resoldre complicats problemes combinatoris. No obstant això, a causa d'una sèrie de qüestions que s'aborden més endavant, les màquines de Boltzmann sense restriccions de connectivitat no han demostrat ser útils per resoldre els problemes que es donen en la pràctica en l'aprenentatge o inferència de les màquines. Tot i així resulten interessants en la teoria a causa de la localització ia la natura del seu algorisme d'entrenament, així com per la seva paral·lelisme i per la semblança de la seva dinàmica a fenòmens físics senzills. Si es limita la connectivitat, l'aprenentatge pot ser prou eficaç com per ser útil en la resolució de problemes pràctics. En mecànica estadística es denominen distribucions de Boltzmann i són utilitzes en funcions de mostreig. (ca) Eine Boltzmann-Maschine ist in der Art ein rekurrentes neuronales Netz, das nach dem österreichischen Wissenschaftler Ludwig Boltzmann benannt wurde. Entwickelt wurde diese von Geoffrey Hinton und Terrence J. Sejnowski im Jahre 1985. Diese Maschinen können zu komplexeren Systemen aneinandergereiht werden wie zum Beispiel tiefe Glaubensnetzwerke. Die Boltzmann-Maschine wird auch stochastischens Hopfield-Netzwerk mit versteckten Einheiten genannt. Beschränkt man die Verbindungen zwischen den Neuronen jedoch, lässt sich der Lernvorgang stark vereinfachen, wodurch Beschränkte Boltzmann-Maschinen sich zur Lösung praktischer Probleme einsetzen lassen. (de) A Boltzmann machine (also called Sherrington–Kirkpatrick model with external field or stochastic Ising–Lenz–Little model) is a stochastic spin-glass model with an external field, i.e., a Sherrington–Kirkpatrick model, that is a stochastic Ising Model. It is a statistical physics technique applied in the context of cognitive science. It is also classified as Markov random field. Boltzmann machines are theoretically intriguing because of the locality and Hebbian nature of their training algorithm (being trained by Hebb's rule), and because of their parallelism and the resemblance of their dynamics to simple physical processes. Boltzmann machines with unconstrained connectivity have not been proven useful for practical problems in machine learning or inference, but if the connectivity is properly constrained, the learning can be made efficient enough to be useful for practical problems. They are named after the Boltzmann distribution in statistical mechanics, which is used in their sampling function. They were heavily popularized and promoted by Geoffrey Hinton, Terry Sejnowski and Yann LeCun in cognitive sciences communities and in machine learning. As a more general class within machine learning these models are called "energy based models" (EBM), because Hamiltonian of spin glasses are used as a starting point to define the learning task. (en) Una máquina de Boltzmann es un tipo de . El nombre le fue dado por los investigadores Geoffrey Hinton y Terry Sejnowski. Las máquinas de Boltzmann pueden considerarse como la contrapartida estocástica y generativa de las redes de Hopfield. Fueron de los primeros tipos de redes neuronales capaces de aprender mediante representaciones internas, son capaces de representar y (con tiempo suficiente) resolver complicados problemas combinatorios. Sin embargo, debido a una serie de cuestiones que se abordan más adelante, las máquinas de Boltzmann sin restricciones de conectividad no han demostrado ser útiles para resolver los problemas que se dan en la práctica en el aprendizaje o inferencia de las máquinas. Aun así resultan interesantes en la teoría debido a la localización y a la naturaleza hebbiana de su algoritmo de entrenamiento, así como por su paralelismo y por la semejanza de su dinámica a fenómenos físicos sencillos. Si se limita la conectividad, el aprendizaje puede ser lo bastante eficaz como para ser útil en la resolución de problemas prácticos. En mecánica estadística se denominan distribuciones de Boltzmann y son utilizadas en funciones de muestreo. (es) ボルツマン・マシン(英: Boltzmann machine)は、1985年にジェフリー・ヒントンとによって開発された回帰結合型ニューラルネットワークの一種である。 (ja) Маши́на Бо́льцмана (англ. Boltzmann machine) — вид стохастичної рекурентної нейронної мережі, винайденої Джеффрі Хінтоном і Террі Сейновскі 1985 року. Машина Больцмана може розглядатися як стохастичний породжувальний варіант мережі Гопфілда. Фахівці зі статистики називають такі мережі випадковими марковськими полями. Мережу названо машиною Больцмана на честь австрійського фізика Людвіга Больцмана, одного з творців статистичної фізики. Ця мережа використовує для навчання алгоритм імітації відпалу і виявилася першою нейронною мережею, здатною навчатися внутрішнім поданням, розв'язувати складні комбінаторні завдання. Незважаючи на це, через низку проблем, машини Больцмана з необмеженою зв'язністю не можуть застосовуватися для розв'язання практичних задач. Якщо ж зв'язність обмежено, то навчання може бути достатньо дієвим для застосування на практиці. Зокрема, з каскаду обмежених машин Больцмана будується так звана глибинна мережа переконань. (uk) 玻尔兹曼机(Boltzmann machine)是随机神经网络和循环神经网络的一种,由杰弗里·辛顿(Geoffrey Hinton)和(Terry Sejnowski)在1985年发明。 玻尔兹曼机可被视作随机过程的,可生成的相应的Hopfield神经网络。它是最早能够学习内部表达,并能表达和(给定充足的时间)解决复杂的组合优化问题的神经网络。但是,没有特定限制连接方式的玻尔兹曼机目前为止并未被证明对机器学习的实际问题有什么用。所以它目前只在理论上显得有趣。然而,由于和训练算法的赫布性质(Hebbian nature),以及它们和简单物理过程相似的并行性,如果连接方式是受约束的(即受限玻爾茲曼機),学习方式在解决实际问题上将会足够高效。 它由玻尔兹曼分布得名。该分布用于玻尔兹曼机的。 (zh) Маши́на Бо́льцмана (англ. Boltzmann machine) — вид стохастической рекуррентной нейронной сети, изобретенной Джеффри Хинтоном и в 1985 году. Машина Больцмана может рассматриваться как стохастический генеративный вариант сети Хопфилда. Специалисты по статистике называют такие сети случайными марковскими полями. Сеть названа машиной Больцмана в честь австрийского физика Людвига Больцмана, одного из создателей статистической физики. Эта сеть использует для обучения алгоритм имитации отжига и оказалась первой нейронной сетью, способной обучаться внутренним представлениям, решать сложные комбинаторные задачи. Несмотря на это, из-за ряда проблем, машины Больцмана с неограниченной связностью не могут использоваться для решения практических проблем. Если же связность ограничена, то обучение может быть достаточно эффективным для использования на практике. В частности, из каскада ограниченных машин Больцмана строится так называемая глубокая сеть доверия. (ru) |
dbo:thumbnail | wiki-commons:Special:FilePath/Boltzmannexamplev1.png?width=300 |
dbo:wikiPageExternalLink | https://www.mis.mpg.de/preprints/2018/preprint2018_87.pdf http://www.cs.toronto.edu/~hinton/absps/fastnc.pdf http://www.cs.toronto.edu/~hinton/absps/nccd.pdf http://www.cs.toronto.edu/~hinton/absps/pdp7.pdf https://web.archive.org/web/20100705230134/http:/learning.cs.toronto.edu/~hinton/absps/pdp7.pdf https://www.forbes.com/sites/tomtaulli/2020/02/02/coronavirus-can-ai-artificial-intelligence-make-a-difference/%3Fsh=1eca51e55817 https://www.youtube.com/watch%3Fv=AyzOUbkUf3M http://www.scholarpedia.org/article/Boltzmann_Machine |
dbo:wikiPageID | 1166059 (xsd:integer) |
dbo:wikiPageLength | 29431 (xsd:nonNegativeInteger) |
dbo:wikiPageRevisionID | 1122282459 (xsd:integer) |
dbo:wikiPageWikiLink | dbr:Robotics dbr:Hopfield_network dbr:Paul_Smolensky dbr:Deep_belief_network dbr:Deep_learning dbr:Cognitive_science dbr:Energy_based_model dbr:Geoffrey_Hinton dbr:Gibbs_measure dbr:Gradient_descent dbr:Graph_(discrete_mathematics) dbr:Conditional_probability_distribution dbr:Copycat_(software) dbr:Logistic_function dbr:Ludwig_Boltzmann dbr:Machine_learning dbr:Simulated_annealing dbr:Statistics dbr:Stochastic dbr:Computer_vision dbr:Helmholtz_machine dbr:Partial_derivative dbr:Synapse dbr:Backpropagation dbr:Linguistics dbr:Log-linear_model dbr:Hebbian dbr:Graphical_model dbr:Ising_model dbr:Energy_function dbr:Spin_glass dbr:Object_recognition dbr:Prior_probability dbr:Restricted_Boltzmann_machine dbr:Speech_recognition dbr:Hamiltonian_mechanics dbr:Ising_Model dbr:Temperature dbr:Terry_Sejnowski dbr:Statistical_mechanics dbr:Artificial_intelligence dbr:Latent_variable dbr:Binary_number dbr:Binary_variable dbr:Bipartite_graph dbr:Douglas_Hofstadter dbc:Neural_network_architectures dbr:Marginal_distribution dbr:Boltzmann_distribution dbr:Boltzmann_factor dbc:Ludwig_Boltzmann dbr:Convolutional_neural_networks dbr:Kullback–Leibler_divergence dbr:Random_variables dbr:Random_walk dbr:Real_number dbr:Yann_LeCun dbr:Markov_chain_Monte_Carlo dbr:Markov_random_field dbr:Scalar_(physics) dbr:Neural_Computation_(journal) dbr:Thermal_equilibrium dbr:Gibbs_sampling dbr:Statistical_physics dbr:Stochastic_neural_network dbr:Markov_Random_Field dbr:Sampling_function dbr:Spin_glasses dbr:Parallelism_(computing) dbr:Gaussian dbr:Physical_process dbr:Probability_density dbr:Probability_mass dbr:EM_algorithm dbr:Marginalizing_out dbr:File:Boltzmannexamplev1.png dbr:File:Boltzmannexamplev2.png dbr:File:Restricted_Boltzmann_machine.svg |
dbp:wikiPageUsesTemplate | dbt:Statistical_mechanics_topics dbt:Authority_control dbt:Citation_needed dbt:Cite_journal dbt:Main dbt:Mvar dbt:Reflist dbt:Short_description dbt:Tooltip |
dcterms:subject | dbc:Neural_network_architectures dbc:Ludwig_Boltzmann |
gold:hypernym | dbr:Network |
rdf:type | owl:Thing dbo:Broadcaster yago:WikicatArtificialNeuralNetworks yago:WikicatNeuralNetworks yago:Abstraction100002137 yago:Communication100033020 yago:ComputerArchitecture106725249 yago:Description106724763 yago:Message106598915 yago:NeuralNetwork106725467 yago:Specification106725067 yago:Statement106722453 |
rdfs:comment | Eine Boltzmann-Maschine ist in der Art ein rekurrentes neuronales Netz, das nach dem österreichischen Wissenschaftler Ludwig Boltzmann benannt wurde. Entwickelt wurde diese von Geoffrey Hinton und Terrence J. Sejnowski im Jahre 1985. Diese Maschinen können zu komplexeren Systemen aneinandergereiht werden wie zum Beispiel tiefe Glaubensnetzwerke. Die Boltzmann-Maschine wird auch stochastischens Hopfield-Netzwerk mit versteckten Einheiten genannt. Beschränkt man die Verbindungen zwischen den Neuronen jedoch, lässt sich der Lernvorgang stark vereinfachen, wodurch Beschränkte Boltzmann-Maschinen sich zur Lösung praktischer Probleme einsetzen lassen. (de) ボルツマン・マシン(英: Boltzmann machine)は、1985年にジェフリー・ヒントンとによって開発された回帰結合型ニューラルネットワークの一種である。 (ja) 玻尔兹曼机(Boltzmann machine)是随机神经网络和循环神经网络的一种,由杰弗里·辛顿(Geoffrey Hinton)和(Terry Sejnowski)在1985年发明。 玻尔兹曼机可被视作随机过程的,可生成的相应的Hopfield神经网络。它是最早能够学习内部表达,并能表达和(给定充足的时间)解决复杂的组合优化问题的神经网络。但是,没有特定限制连接方式的玻尔兹曼机目前为止并未被证明对机器学习的实际问题有什么用。所以它目前只在理论上显得有趣。然而,由于和训练算法的赫布性质(Hebbian nature),以及它们和简单物理过程相似的并行性,如果连接方式是受约束的(即受限玻爾茲曼機),学习方式在解决实际问题上将会足够高效。 它由玻尔兹曼分布得名。该分布用于玻尔兹曼机的。 (zh) Una màquina de Boltzmann és un tipus de . El nom li fou donat pels investigadors Geoffrey Hinton i . Les màquines de Boltzmann poden considerar-se com la contrapartida estocàstica i de les xarxes de Hopfield. Van ser dels primers tipus de xarxes neuronals capaços d'aprendre mitjançant representacions internes, són capaços de representar i (amb temps suficient) resoldre complicats problemes combinatoris. No obstant això, a causa d'una sèrie de qüestions que s'aborden més endavant, les màquines de Boltzmann sense restriccions de connectivitat no han demostrat ser útils per resoldre els problemes que es donen en la pràctica en l'aprenentatge o inferència de les màquines. Tot i així resulten interessants en la teoria a causa de la localització ia la natura del seu algorisme d'entrenament, (ca) A Boltzmann machine (also called Sherrington–Kirkpatrick model with external field or stochastic Ising–Lenz–Little model) is a stochastic spin-glass model with an external field, i.e., a Sherrington–Kirkpatrick model, that is a stochastic Ising Model. It is a statistical physics technique applied in the context of cognitive science. It is also classified as Markov random field. (en) Una máquina de Boltzmann es un tipo de . El nombre le fue dado por los investigadores Geoffrey Hinton y Terry Sejnowski. Las máquinas de Boltzmann pueden considerarse como la contrapartida estocástica y generativa de las redes de Hopfield. Fueron de los primeros tipos de redes neuronales capaces de aprender mediante representaciones internas, son capaces de representar y (con tiempo suficiente) resolver complicados problemas combinatorios. Sin embargo, debido a una serie de cuestiones que se abordan más adelante, las máquinas de Boltzmann sin restricciones de conectividad no han demostrado ser útiles para resolver los problemas que se dan en la práctica en el aprendizaje o inferencia de las máquinas. Aun así resultan interesantes en la teoría debido a la localización y a la naturaleza hebb (es) Маши́на Бо́льцмана (англ. Boltzmann machine) — вид стохастической рекуррентной нейронной сети, изобретенной Джеффри Хинтоном и в 1985 году. Машина Больцмана может рассматриваться как стохастический генеративный вариант сети Хопфилда. Специалисты по статистике называют такие сети случайными марковскими полями. Сеть названа машиной Больцмана в честь австрийского физика Людвига Больцмана, одного из создателей статистической физики. (ru) Маши́на Бо́льцмана (англ. Boltzmann machine) — вид стохастичної рекурентної нейронної мережі, винайденої Джеффрі Хінтоном і Террі Сейновскі 1985 року. Машина Больцмана може розглядатися як стохастичний породжувальний варіант мережі Гопфілда. Фахівці зі статистики називають такі мережі випадковими марковськими полями. Мережу названо машиною Больцмана на честь австрійського фізика Людвіга Больцмана, одного з творців статистичної фізики. (uk) |
rdfs:label | Màquina de Boltzmann (ca) Boltzmann-Maschine (de) Boltzmann machine (en) Máquina de Boltzmann (es) ボルツマンマシン (ja) Машина Больцмана (ru) 玻尔兹曼机 (zh) Машина Больцмана (uk) |
owl:sameAs | freebase:Boltzmann machine yago-res:Boltzmann machine http://d-nb.info/gnd/4247316-0 wikidata:Boltzmann machine dbpedia-ca:Boltzmann machine dbpedia-de:Boltzmann machine dbpedia-es:Boltzmann machine dbpedia-fi:Boltzmann machine dbpedia-he:Boltzmann machine dbpedia-ja:Boltzmann machine http://ml.dbpedia.org/resource/ബോൾസ്മാൻ_യന്ത്രം dbpedia-ru:Boltzmann machine dbpedia-uk:Boltzmann machine dbpedia-zh:Boltzmann machine https://global.dbpedia.org/id/s9kf |
prov:wasDerivedFrom | wikipedia-en:Boltzmann_machine?oldid=1122282459&ns=0 |
foaf:depiction | wiki-commons:Special:FilePath/Boltzmannexamplev1.png wiki-commons:Special:FilePath/Restricted_Boltzmann_machine.svg wiki-commons:Special:FilePath/Boltzmannexamplev2.png |
foaf:isPrimaryTopicOf | wikipedia-en:Boltzmann_machine |
is dbo:knownFor of | dbr:Geoffrey_Hinton dbr:Terry_Sejnowski |
is dbo:wikiPageRedirects of | dbr:Training_algorithms_for_Boltzmann_machines dbr:Boltzmann_Machine |
is dbo:wikiPageWikiLink of | dbr:Rumelhart_Prize dbr:List_of_University_of_Toronto_faculty dbr:Neural_network dbr:Hopfield_network dbr:Deep_learning dbr:Quantum_computing dbr:Visual_release_hallucinations dbr:Generative_adversarial_network dbr:Encog dbr:Generative_model dbr:Geoffrey_Hinton dbr:Glossary_of_artificial_intelligence dbr:Multimodal_learning dbr:Connectionism dbr:Convolutional_neural_network dbr:Feature_learning dbr:Helmholtz_machine dbr:Training_algorithms_for_Boltzmann_machines dbr:Learning_rule dbr:Ising_model dbr:Quantum_machine_learning dbr:Restricted_Boltzmann_machine dbr:Terry_Sejnowski dbr:Boltzmann_distribution dbr:List_of_things_named_after_Ludwig_Boltzmann dbr:Outline_of_machine_learning dbr:Types_of_artificial_neural_networks dbr:Boltzmann_Machine |
is dbp:knownFor of | dbr:Terry_Sejnowski |
is owl:differentFrom of | dbr:Boltzmann_sampler |
is foaf:primaryTopic of | wikipedia-en:Boltzmann_machine |