Capsule neural network (original) (raw)
A Capsule Neural Network (CapsNet) is a machine learning system that is a type of artificial neural network (ANN) that can be used to better model hierarchical relationships. The approach is an attempt to more closely mimic biological neural organization.
| Property | Value |
|---|---|
| dbo:abstract | A Capsule Neural Network (CapsNet) is a machine learning system that is a type of artificial neural network (ANN) that can be used to better model hierarchical relationships. The approach is an attempt to more closely mimic biological neural organization. The idea is to add structures called “capsules” to a convolutional neural network (CNN), and to reuse output from several of those capsules to form more stable (with respect to various perturbations) representations for higher capsules. The output is a vector consisting of the probability of an observation, and a pose for that observation. This vector is similar to what is done for example when doing in CNNs. Among other benefits, capsnets address the "Picasso problem" in image recognition: images that have all the right parts but that are not in the correct spatial relationship (e.g., in a "face", the positions of the mouth and one eye are switched). For image recognition, capsnets exploit the fact that while viewpoint changes have nonlinear effects at the pixel level, they have linear effects at the part/object level. This can be compared to inverting the rendering of an object of multiple parts. (en) Un réseau neuronal à capsules, abrégé CapsNet, est un type de réseau de neurones artificiels du domaine de l'apprentissage automatique dont l'architecture est basée sur celle d'un réseau neuronal convolutif (CNN) mais qui permet une meilleure modélisation relationnelle des motifs extraits par les opérations de convolution. Cette nouvelle approche est une tentative de mimétiser encore plus le fonctionnement des neurones biologiques mais aussi de répondre aux déficiences naturelles du CNN, à savoir que les motifs reconnus par les opérations de convolution sont indépendants les uns des autres et qu'il est ainsi facile de tromper un CNN. Comme pour le CNN, l'objectif principal de cette architecture est l'étude, la compréhension et la classification d'images. Les différentes opérations du réseau vont extraire des caractéristiques spatiales de l'image étudiée, comme des formes ou des motifs mais aussi les mettre en relation les uns par rapport aux autres afin de proposer ce qui est illustré dans l'image. Le principal ajout de CapsNet par rapport au CNN vient de l'ajout de structures nommées « capsules » consistant au rassemblement de plusieurs opérations de convolution en un vecteur afin d'apprendre et de décrire des motifs plus complexes qu'une simple opération de convolution ne pourrait le faire. L'enchaînement de couches de capsules permet quant à lui de décrire les relations spatiales des motifs reconnus par la couche de capsules précédente en liant les capsules similaires grâce au nouvel algorithme dit de routing. (fr) Капсульная нейронная сеть (англ. capsule neural network, CapsNet) — архитектура искусственных нейронных сетей, которая предназначена для распознавания изображений. Главными преимуществами данной архитектуры является существенное снижение размеров необходимой для обучения выборки, а также повышение точности распознавания и устойчивость к атакам типа «белый ящик». Ключевым нововведением капсульных нейросетей является наличие так называемых капсул — элементов, являющихся промежуточными единицами между нейронами и слоями, которые представляют собой группы виртуальных нейронов, отслеживающих не только отдельные детали изображения, но и их расположение друг относительно друга. Данная архитектура была задумана Джеффри Хинтоном в 1979 году, сформулирована в 2011 году и опубликована в двух статьях в октябре 2017 года. (ru) Капсульна нейронна мережа (англ. capsule neural network CapsNet) — це система машинного навчання, що являє собою тип штучної нейронної мережі (ANN), яку можна використовувати для кращого моделювання ієрархічних відносин. Цей підхід є спробою більш точно імітувати біологічну нейронну організацію. Ідея полягає в тому, щоб додати структури, що називаються «капсули» до згорткової нейронної мережі (CNN) і повторно використовувати вихідні дані від декількох з цих капсул для формування більш стійких до різних шумів ознак для наступних капсул. Результат являє собою вектор, що складається з та для цього спостереження. Цей вектор подібний до того, що створюється, наприклад, під час виконання класифікації з локалізацією в згортковій нейронній мережі. Серед інших переваг, капсульні мережі вирішують «проблему Пікассо» при розпізнаванні зображень: зображення, які мають усі правильні частини, але не знаходяться в правильному просторовому співвідношенні (наприклад, на «обличчі», міняються місцями рот та одне око). Для розпізнавання зображень використовується той факт, що хоча зміна точки спостереження має нелінійний вплив на рівні пікселів, але лінійні на рівні деталі/об'єкта. Це можна порівняти з інверсією відтворення об'єкта, що складається з декількох частин. (uk) |
| dbo:wikiPageExternalLink | https://medium.freecodecamp.org/understanding-capsule-networks-ais-alluring-new-architecture-bdb228173ddc%7Ctitle=Understanding https://openreview.net/pdf%3Fid=HJWLfGWRb%7Ctitle=MATRIX http://www.cedar.buffalo.edu/~srihari/CSE676%7Ctitle=Deep https://github.com/XifengGuo/CapsNet-Keras%7Caccess-date=2017-12-08 https://github.com/fabio-deep/Variational-Capsule-Routing%7Caccess-date=2020-10-23 https://github.com/gram-ai/capsule-networks%7Cpublisher=Gram.AI%7Caccess-date=2017-12-08 https://github.com/naturomics/CapsNet-Tensorflow%7Caccess-date=2017-12-08 https://medium.com/syncedreview/we-can-do-it-geoffrey-hinton-and-ubc-ut-google-uvic-team-propose-unsupervised-capsule-c1f2edb6b1e9%7Caccess-date=2021-01-18%7Cwebsite=Medium%7Clanguage=en |
| dbo:wikiPageID | 55986595 (xsd:integer) |
| dbo:wikiPageLength | 28030 (xsd:nonNegativeInteger) |
| dbo:wikiPageRevisionID | 1110025072 (xsd:integer) |
| dbo:wikiPageWikiLink | dbr:Invariant_(mathematics) dbr:Convolution dbr:Geoffrey_Hinton dbr:Convolutional_neural_network dbr:Cortical_minicolumn dbr:Equivariant_map dbr:Logit dbr:MNIST_database dbr:Stellate_cell dbr:Hough_transform dbr:Kernel_(statistics) dbr:Backpropagation dbr:Action_potential dbr:Winner-take-all_(computing) dbr:Log_probability dbr:Affine_space dbr:Affine_transformation dbr:Prior_probability dbr:Realization_(probability) dbr:Receptive_field dbr:Rectifier_(neural_networks) dbr:Hinge_loss dbr:Artificial_neural_network dbc:Artificial_neural_networks dbr:Parse_tree dbr:Translation_(geometry) dbr:Digital_image_processing dbr:Dot_product dbr:Artificial_neuron dbr:Pixel dbr:Pose_(computer_vision) dbr:Softmax_function dbr:Image_segmentation dbr:RANSAC dbr:Cerebral_cortex dbr:Chandelier_cell dbr:Rotation_(mathematics) dbr:Neural_coding dbr:Euclidean_distance dbr:Unsupervised_learning dbr:Randomized_Hough_Transform dbr:Saccade dbr:Supervised_learning dbr:Spatial_transformer_networks dbr:Classification_with_localization |
| dbp:wikiPageUsesTemplate | dbt:Citation dbt:Cite_arXiv dbt:Cite_web dbt:Reflist dbt:TOC_limit dbt:Youtube |
| dct:subject | dbc:Artificial_neural_networks |
| rdfs:comment | A Capsule Neural Network (CapsNet) is a machine learning system that is a type of artificial neural network (ANN) that can be used to better model hierarchical relationships. The approach is an attempt to more closely mimic biological neural organization. (en) Un réseau neuronal à capsules, abrégé CapsNet, est un type de réseau de neurones artificiels du domaine de l'apprentissage automatique dont l'architecture est basée sur celle d'un réseau neuronal convolutif (CNN) mais qui permet une meilleure modélisation relationnelle des motifs extraits par les opérations de convolution. Cette nouvelle approche est une tentative de mimétiser encore plus le fonctionnement des neurones biologiques mais aussi de répondre aux déficiences naturelles du CNN, à savoir que les motifs reconnus par les opérations de convolution sont indépendants les uns des autres et qu'il est ainsi facile de tromper un CNN. (fr) Капсульна нейронна мережа (англ. capsule neural network CapsNet) — це система машинного навчання, що являє собою тип штучної нейронної мережі (ANN), яку можна використовувати для кращого моделювання ієрархічних відносин. Цей підхід є спробою більш точно імітувати біологічну нейронну організацію. (uk) Капсульная нейронная сеть (англ. capsule neural network, CapsNet) — архитектура искусственных нейронных сетей, которая предназначена для распознавания изображений. Главными преимуществами данной архитектуры является существенное снижение размеров необходимой для обучения выборки, а также повышение точности распознавания и устойчивость к атакам типа «белый ящик». Ключевым нововведением капсульных нейросетей является наличие так называемых капсул — элементов, являющихся промежуточными единицами между нейронами и слоями, которые представляют собой группы виртуальных нейронов, отслеживающих не только отдельные детали изображения, но и их расположение друг относительно друга. Данная архитектура была задумана Джеффри Хинтоном в 1979 году, сформулирована в 2011 году и опубликована в двух статьях (ru) |
| rdfs:label | Capsule neural network (en) Réseau neuronal à capsules (fr) Капсульная нейронная сеть (ru) Капсульна нейронна мережа (uk) |
| owl:sameAs | wikidata:Capsule neural network dbpedia-fa:Capsule neural network dbpedia-fr:Capsule neural network dbpedia-ru:Capsule neural network dbpedia-uk:Capsule neural network https://global.dbpedia.org/id/7rTnE |
| prov:wasDerivedFrom | wikipedia-en:Capsule_neural_network?oldid=1110025072&ns=0 |
| foaf:homepage | http://www.cedar.buffalo.edu |
| foaf:isPrimaryTopicOf | wikipedia-en:Capsule_neural_network |
| is dbo:knownFor of | dbr:Geoffrey_Hinton |
| is dbo:wikiPageDisambiguates of | dbr:Capsule |
| is dbo:wikiPageRedirects of | dbr:Training_capsule_neural_networks |
| is dbo:wikiPageWikiLink of | dbr:Capsule dbr:Geoffrey_Hinton dbr:Glossary_of_artificial_intelligence dbr:Convolutional_neural_network dbr:Training_capsule_neural_networks dbr:Knowledge_graph_embedding dbr:Types_of_artificial_neural_networks |
| is foaf:primaryTopic of | wikipedia-en:Capsule_neural_network |