Neural Turing machine (original) (raw)
Una máquina de Turing neuronal (MTNs) es un modelo de red neuronal recurrente publicado por Alex Graves en 2014. Las MTNs combinan la capacidad para búsqueda de patrones fuzzy, propia de las redes neuronales, con el poder algorítmico de los ordenadores programables. Una MTN tiene un controlador de red neuronal suplementado con otros recursos en memoria externa, los cuales interactúan con la red. Las interacciones de memoria son diferenciables end-to-end, haciendo posible optimizarlas utilizando descenso de gradiente. Una MTN con un controlador de memoria a corto y largo plazo (por las siglas en inglés, LSTM) puede inferir algoritmos sencillos como copiar, ordenar, y recuerdos asociativos a través de ejemplos de entradas y salidas.
| Property | Value |
|---|---|
| dbo:abstract | Una máquina de Turing neuronal (MTNs) es un modelo de red neuronal recurrente publicado por Alex Graves en 2014. Las MTNs combinan la capacidad para búsqueda de patrones fuzzy, propia de las redes neuronales, con el poder algorítmico de los ordenadores programables. Una MTN tiene un controlador de red neuronal suplementado con otros recursos en memoria externa, los cuales interactúan con la red. Las interacciones de memoria son diferenciables end-to-end, haciendo posible optimizarlas utilizando descenso de gradiente. Una MTN con un controlador de memoria a corto y largo plazo (por las siglas en inglés, LSTM) puede inferir algoritmos sencillos como copiar, ordenar, y recuerdos asociativos a través de ejemplos de entradas y salidas. Los ordenadores neuronales diferenciables son un tipo concreto de máquina neuronal de Turing, con mecanismos de atención que controlan dónde es activa la memoria, y mejoran el rendimiento. (es) A Neural Turing machine (NTM) is a recurrent neural network model of a Turing machine. The approach was published by Alex Graves et al. in 2014. NTMs combine the fuzzy pattern matching capabilities of neural networks with the algorithmic power of programmable computers. An NTM has a neural network controller coupled to external memory resources, which it interacts with through attentional mechanisms. The memory interactions are differentiable end-to-end, making it possible to optimize them using gradient descent. An NTM with a long short-term memory (LSTM) network controller can infer simple algorithms such as copying, sorting, and associative recall from examples alone. The authors of the original NTM paper did not publish their source code. The first stable open-source implementation was published in 2018 at the 27th International Conference on Artificial Neural Networks, receiving a best-paper award. Other open source implementations of NTMs exist but as of 2018 they are not sufficiently stable for production use. The developers either report that the gradients of their implementation sometimes become NaN during training for unknown reasons and cause training to fail; report slow convergence; or do not report the speed of learning of their implementation. Differentiable neural computers are an outgrowth of Neural Turing machines, with attention mechanisms that control where the memory is active, and improve performance. (en) Нейро́нні маши́ни Тю́рінга (НМТ, англ. Neural Turing machines, NTMs) поєднують можливості нечіткого зіставлення зі зразками нейронних мереж з алгоритмічною потужністю . НМТ має нейромережевий контролер, зв'язаний з ресурсами зовнішньої пам'яті, з якими він взаємодіє за допомогою . Взаємодія з пам'яттю є диференційовною з краю в край, що уможливлює оптимізацію за допомогою градієнтного спуску. НМТ з контролером на основі мережі довгої короткочасної пам'яті (ДКЧП) може виводити прості алгоритми, такі як копіювання, впорядкування та асоціативне пригадування на основі зразків входу та виходу. Вони можуть виводити алгоритми з самих лише прикладів входів та виходів. є результатом розвитку нейронних машин Тюрінга, з механізмами зосередження уваги, які керують активністю пам'яті, та покращеною продуктивністю. (uk) |
| dbo:wikiPageID | 50568884 (xsd:integer) |
| dbo:wikiPageLength | 4820 (xsd:nonNegativeInteger) |
| dbo:wikiPageRevisionID | 1116063610 (xsd:integer) |
| dbo:wikiPageWikiLink | dbr:Neural_network dbr:Algorithm dbr:Gradient_descent dbr:NaN dbr:Differentiable_neural_computer dbr:Source_code dbr:Stochastic_gradient_descent dbr:Recurrent_neural_network dbr:Attention_mechanism dbr:Alex_Graves_(computer_scientist) dbc:Neural_network_architectures dbr:Auxiliary_memory dbr:Long_short-term_memory dbr:Pattern_matching dbr:Turing_machine dbr:Programmable_computer |
| dbp:wikiPageUsesTemplate | dbt:Reflist dbt:Turing dbt:Differentiable_computing |
| dct:subject | dbc:Neural_network_architectures |
| rdfs:comment | Una máquina de Turing neuronal (MTNs) es un modelo de red neuronal recurrente publicado por Alex Graves en 2014. Las MTNs combinan la capacidad para búsqueda de patrones fuzzy, propia de las redes neuronales, con el poder algorítmico de los ordenadores programables. Una MTN tiene un controlador de red neuronal suplementado con otros recursos en memoria externa, los cuales interactúan con la red. Las interacciones de memoria son diferenciables end-to-end, haciendo posible optimizarlas utilizando descenso de gradiente. Una MTN con un controlador de memoria a corto y largo plazo (por las siglas en inglés, LSTM) puede inferir algoritmos sencillos como copiar, ordenar, y recuerdos asociativos a través de ejemplos de entradas y salidas. (es) A Neural Turing machine (NTM) is a recurrent neural network model of a Turing machine. The approach was published by Alex Graves et al. in 2014. NTMs combine the fuzzy pattern matching capabilities of neural networks with the algorithmic power of programmable computers. Differentiable neural computers are an outgrowth of Neural Turing machines, with attention mechanisms that control where the memory is active, and improve performance. (en) Нейро́нні маши́ни Тю́рінга (НМТ, англ. Neural Turing machines, NTMs) поєднують можливості нечіткого зіставлення зі зразками нейронних мереж з алгоритмічною потужністю . НМТ має нейромережевий контролер, зв'язаний з ресурсами зовнішньої пам'яті, з якими він взаємодіє за допомогою . Взаємодія з пам'яттю є диференційовною з краю в край, що уможливлює оптимізацію за допомогою градієнтного спуску. НМТ з контролером на основі мережі довгої короткочасної пам'яті (ДКЧП) може виводити прості алгоритми, такі як копіювання, впорядкування та асоціативне пригадування на основі зразків входу та виходу. (uk) |
| rdfs:label | Máquina de Turing neuronal (es) Neural Turing machine (en) Нейронна машина Тюрінга (uk) |
| owl:sameAs | yago-res:Neural Turing machine wikidata:Neural Turing machine dbpedia-es:Neural Turing machine dbpedia-fa:Neural Turing machine dbpedia-uk:Neural Turing machine https://global.dbpedia.org/id/2PDR5 |
| prov:wasDerivedFrom | wikipedia-en:Neural_Turing_machine?oldid=1116063610&ns=0 |
| foaf:isPrimaryTopicOf | wikipedia-en:Neural_Turing_machine |
| is dbo:wikiPageDisambiguates of | dbr:NTM |
| is dbo:wikiPageRedirects of | dbr:Neural_Turing_Machine dbr:Neural_turing_machines |
| is dbo:wikiPageWikiLink of | dbr:NTM dbr:DeepMind dbr:Sparse_distributed_memory dbr:GPT-2 dbr:Glossary_of_artificial_intelligence dbr:Attention_(machine_learning) dbr:Alex_Graves_(computer_scientist) dbr:Neural_Turing_Machine dbr:List_of_things_named_after_Alan_Turing dbr:Neural_turing_machines |
| is foaf:primaryTopic of | wikipedia-en:Neural_Turing_machine |