Kernel method (original) (raw)
Im bezeichnen Kernel-Methoden eine Klasse an , die zur Mustererkennung verwendet werden. Sie bedienen sich eines Kernels, um ihre Berechnungen implizit in einem höherdimensionalen Raum auszuführen. Bekannte Kernel-Methoden sind Support Vector Machines, Gaußprozesse und die .
| Property | Value |
|---|---|
| dbo:abstract | Im bezeichnen Kernel-Methoden eine Klasse an , die zur Mustererkennung verwendet werden. Sie bedienen sich eines Kernels, um ihre Berechnungen implizit in einem höherdimensionalen Raum auszuführen. Bekannte Kernel-Methoden sind Support Vector Machines, Gaußprozesse und die . (de) In machine learning, kernel machines are a class of algorithms for pattern analysis, whose best known member is the support-vector machine (SVM). The general task of pattern analysis is to find and study general types of relations (for example clusters, rankings, principal components, correlations, classifications) in datasets. For many algorithms that solve these tasks, the data in raw representation have to be explicitly transformed into feature vector representations via a user-specified feature map: in contrast, kernel methods require only a user-specified kernel, i.e., a similarity function over all pairs of data points computed using Inner products. The feature map in kernel machines is infinite dimensional but only requires a finite dimensional matrix from user-input according to the Representer theorem. Kernel machines are slow to compute for datasets larger than a couple of thousand examples without parallel processing. Kernel methods owe their name to the use of kernel functions, which enable them to operate in a high-dimensional, implicit feature space without ever computing the coordinates of the data in that space, but rather by simply computing the inner products between the images of all pairs of data in the feature space. This operation is often computationally cheaper than the explicit computation of the coordinates. This approach is called the "kernel trick". Kernel functions have been introduced for sequence data, graphs, text, images, as well as vectors. Algorithms capable of operating with kernels include the kernel perceptron, support-vector machines (SVM), Gaussian processes, principal components analysis (PCA), canonical correlation analysis, ridge regression, spectral clustering, linear adaptive filters and many others. Most kernel algorithms are based on convex optimization or eigenproblems and are statistically well-founded. Typically, their statistical properties are analyzed using statistical learning theory (for example, using Rademacher complexity). (en) En apprentissage automatique, l'astuce du noyau, ou kernel trick en anglais, est une méthode qui permet d'utiliser un classifieur linéaire pour résoudre un problème non linéaire. L'idée est de transformer l'espace de représentation des données d'entrées en un espace de plus grande dimension, où un classifieur linéaire peut être utilisé et obtenir de bonnes performances. La discrimination linéaire dans l'espace de grande dimension (appelé aussi espace de redescription) est équivalente à une discrimination non linéaire dans l'espace d'origine. (fr) カーネル法（カーネルほう、英: kernel method）はパターン認識において使われる手法の一つで、 判別などのアルゴリズムに組み合わせて利用するものである。よく知られているのは、サポートベクターマシンと組み合わせて利用する方法である。 パターン認識の目的は、一般に、 データの構造(例えばクラスタ、ランキング、、相関、分類)を見つけだし、研究することにある。この目的を達成するために、 カーネル法ではデータを高次元の上へ写像する。特徴空間の各座標はデータ要素の一つの特徴に対応し、特徴空間への写像（特徴写像）によりデータの集合はユークリッド空間中の点の集合に変換される。特徴空間におけるデータの構造の分析に際しては、様々な方法がカーネル法と組み合わせて用いられる。特徴写像としては多様な写像を使うことができ（一般に非線形写像が使われる）、それに対応してデータの多様な構造を見いだすことができる。 (ja) In informatica, i metodi kernel sono una classe di algoritmi per l'analisi di schemi, il cui elemento maggiormente conosciuto sono le macchine a vettori di supporto (SVM). (it) Ядерные методы в машинном обучении — это класс алгоритмов распознавания образов, наиболее известным представителем которого является метод опорных векторов (МОВ, англ. SVM). Общая задача распознавания образов — найти и изучить общие типы связей (например, кластеров, ранжирования, главных компонент, корреляций, классификаций) в наборах данных. Для многих алгоритмов, решающих эти задачи, данные, представленные в сыром виде, явным образом преобразуются в представление в виде вектора признаков посредством специфичной схемы распределения признаков, однако ядерные методы требуют только задания специфичного ядра, т.е. функции сходства пар точек данных в сыром представлении. Ядерные методы получили своё название из-за использования , которые позволяют им оперировать в неявном пространстве признаков высокой размерности без вычисления координат данных в пространстве, просто вычисляя скалярные произведения между образами всех пар данных в пространстве признаков. Эта операция часто вычислительно дешевле явных вычислений координат. Этот подход называется «ядерным трюком». Ядерные функции были введены для последовательных данных, , текстов, изображений, а также для векторов. Среди алгоритмов, способных работать с ядрами, находятся , методы опорных векторов, гауссовские процессы, метод главных компонент (МГК, англ. PCA), канонический корреляционный анализ, гребневая регрессия, спектральная кластеризация, линейные адаптивные фильтры и многие другие. Любая может быть переведена в нелинейную модель путём применения к модели ядерного трюка, заменив её признаки (предсказатели) ядерной функцией. Большинство ядерных алгоритмов базируются на выпуклой оптимизации или нахождении собственных векторов и статистически хорошо обоснованы. Обычно их статистические свойства анализируются с помощью теории статистического обучения (например, используя ). (ru) В машинному навчанні ядрові методи (англ. kernel methods) — це клас алгоритмів для розпізнавання образів, найвідомішим представником якого є метод опорних векторів (англ. support vector machine, SVM). Загальна задача розпізнавання образів полягає у знаходженні та вивченні основних типів відношень (наприклад, кластерів, ранжування, головних компонент, кореляцій, класифікацій) у наборах даних. Для багатьох алгоритмів, які розв'язують ці задачі, дані в сирому представленні має бути явним чином перетворено на представлення у вигляді векторів ознак через визначене користувачем відображення ознак (англ. feature map): на противагу цьому ядрові методи вимагають лише вказаного користувачем ядра (англ. kernel), тобто, функції подібності над парами точок даних у сирому представленні. Ядрові методи завдячують своєю назвою застосуванню , які дозволяють їм діяти в неявному просторі ознак високої вимірності навіть без обчислення координат даних у цьому просторі, натомість просто обчислюючи зображень всіх пар даних у цьому просторі ознак. Ця операція часто є обчислювально менш витратною, ніж явне обчислення координат. Цей підхід називають ядровим трюком (англ. kernel trick). Ядрові функції було представлено для даних послідовностей, , текстів, зображень, як і для векторів. До алгоритмів, здатних працювати з ядрами, належать , метод опорних векторів (англ. support vector machines, SVM), ґаусові процеси, метод головних компонент (англ. principal components analysis, PCA), канонічно-кореляційний аналіз, гребенева регресія, , лінійні адаптивні фільтри та багато інших. Будь-яку може бути перетворено на нелінійну шляхом застосування до неї ядрового трюку: заміни її ознак (провісників) ядровою функцією.[джерело?] Більшість ядрових алгоритмів ґрунтуються на опуклій оптимізації або власних векторах, і є статистично обґрунтованими. Як правило, їхні статистичні властивості аналізують за допомогою теорії статистичного навчання (наприклад, за допомогою ). (uk) |
| dbo:thumbnail | wiki-commons:Special:FilePath/Kernel_trick_idea.svg?width=300 |
| dbo:wikiPageExternalLink | http://onlineprediction.net/%3Fn=Main.KernelMethods http://www.kernel-machines.org https://www.google.com/books/edition/Learning_with_Kernels/ZQxiuAEACAAJ%3Fhl=en https://www.google.com/books/edition/_/eWUwB_P5pW0C%3Fhl=en |
| dbo:wikiPageID | 3424576 (xsd:integer) |
| dbo:wikiPageLength | 12635 (xsd:nonNegativeInteger) |
| dbo:wikiPageRevisionID | 1115063389 (xsd:integer) |
| dbo:wikiPageWikiLink | dbc:Kernel_methods_for_machine_learning dbr:Neural_tangent_kernel dbr:Mercer's_theorem dbr:Ridge_regression dbr:Decision_boundary dbr:Information_extraction dbr:Instance-based_learning dbr:Inverse_distance_weighting dbr:String_kernel dbc:Classification_algorithms dbr:Convex_optimization dbr:Correlation dbc:Geostatistics dbr:Measure_(mathematics) dbr:Similarity_learning dbr:Gaussian_process dbr:Representer_theorem dbr:Machine_learning dbr:Sign_function dbr:Cluster_analysis dbr:Kernel_density_estimation dbr:Kernel_methods_for_vector_output dbr:Kernel_smoother dbr:Kriging dbr:Adaptive_filter dbr:Feature_space dbr:Feature_vector dbr:3D_reconstruction dbr:Geostatistics dbr:Gram_matrix dbr:Graph_kernel dbr:Handwriting_recognition dbr:Eigenvalue,_eigenvector_and_eigenspace dbr:Rademacher_complexity dbr:Counting_measure dbr:Covariance_function dbr:Covariance_matrix dbr:Cover's_theorem dbr:Artificial_neural_network dbr:Kernel_perceptron dbr:Bioinformatics dbr:Support-vector_machine dbr:Polynomial_kernel dbr:Positive-definite_kernel dbr:Positive-definite_matrix dbr:Inner_product dbr:Inner_product_space dbr:Integral dbr:Mercer's_condition dbr:Radial_basis_function_kernel dbr:Ranking dbr:Canonical_correlation_analysis dbr:Neural_network_Gaussian_process dbr:Statistical_classification dbr:Image_(mathematics) dbr:Statistical_learning_theory dbr:Fisher_kernel dbr:Spectral_clustering dbr:Principal_components_analysis dbr:Positive_definite_kernel dbr:Chemoinformatics dbr:Gaussian_processes dbr:Kernel_function dbr:Similarity_function dbr:Pattern_analysis dbr:Learning_algorithms dbr:Principal_components dbr:Inner_products dbr:Binary_classifier dbr:File:Kernel_trick_idea.svg |
| dbp:wikiPageUsesTemplate | dbt:Cite_book dbt:Mvar dbt:Reflist dbt:Short_description dbt:Machine_learning_bar |
| dcterms:subject | dbc:Kernel_methods_for_machine_learning dbc:Classification_algorithms dbc:Geostatistics |
| gold:hypernym | dbr:Algorithms |
| rdf:type | yago:WikicatClassificationAlgorithms yago:Ability105616246 yago:Abstraction100002137 yago:Act100030358 yago:Activity100407535 yago:Algorithm105847438 yago:Cognition100023271 yago:Event100029378 yago:Know-how105616786 yago:Method105660268 yago:Procedure101023820 yago:PsychologicalFeature100023100 yago:WikicatKernelMethodsForMachineLearning yago:YagoPermanentlyLocatedEntity yago:Rule105846932 |
| rdfs:comment | Im bezeichnen Kernel-Methoden eine Klasse an , die zur Mustererkennung verwendet werden. Sie bedienen sich eines Kernels, um ihre Berechnungen implizit in einem höherdimensionalen Raum auszuführen. Bekannte Kernel-Methoden sind Support Vector Machines, Gaußprozesse und die . (de) En apprentissage automatique, l'astuce du noyau, ou kernel trick en anglais, est une méthode qui permet d'utiliser un classifieur linéaire pour résoudre un problème non linéaire. L'idée est de transformer l'espace de représentation des données d'entrées en un espace de plus grande dimension, où un classifieur linéaire peut être utilisé et obtenir de bonnes performances. La discrimination linéaire dans l'espace de grande dimension (appelé aussi espace de redescription) est équivalente à une discrimination non linéaire dans l'espace d'origine. (fr) カーネル法（カーネルほう、英: kernel method）はパターン認識において使われる手法の一つで、 判別などのアルゴリズムに組み合わせて利用するものである。よく知られているのは、サポートベクターマシンと組み合わせて利用する方法である。 パターン認識の目的は、一般に、 データの構造(例えばクラスタ、ランキング、、相関、分類)を見つけだし、研究することにある。この目的を達成するために、 カーネル法ではデータを高次元の上へ写像する。特徴空間の各座標はデータ要素の一つの特徴に対応し、特徴空間への写像（特徴写像）によりデータの集合はユークリッド空間中の点の集合に変換される。特徴空間におけるデータの構造の分析に際しては、様々な方法がカーネル法と組み合わせて用いられる。特徴写像としては多様な写像を使うことができ（一般に非線形写像が使われる）、それに対応してデータの多様な構造を見いだすことができる。 (ja) In informatica, i metodi kernel sono una classe di algoritmi per l'analisi di schemi, il cui elemento maggiormente conosciuto sono le macchine a vettori di supporto (SVM). (it) In machine learning, kernel machines are a class of algorithms for pattern analysis, whose best known member is the support-vector machine (SVM). The general task of pattern analysis is to find and study general types of relations (for example clusters, rankings, principal components, correlations, classifications) in datasets. For many algorithms that solve these tasks, the data in raw representation have to be explicitly transformed into feature vector representations via a user-specified feature map: in contrast, kernel methods require only a user-specified kernel, i.e., a similarity function over all pairs of data points computed using Inner products. The feature map in kernel machines is infinite dimensional but only requires a finite dimensional matrix from user-input according to th (en) Ядерные методы в машинном обучении — это класс алгоритмов распознавания образов, наиболее известным представителем которого является метод опорных векторов (МОВ, англ. SVM). Общая задача распознавания образов — найти и изучить общие типы связей (например, кластеров, ранжирования, главных компонент, корреляций, классификаций) в наборах данных. Для многих алгоритмов, решающих эти задачи, данные, представленные в сыром виде, явным образом преобразуются в представление в виде вектора признаков посредством специфичной схемы распределения признаков, однако ядерные методы требуют только задания специфичного ядра, т.е. функции сходства пар точек данных в сыром представлении. (ru) В машинному навчанні ядрові методи (англ. kernel methods) — це клас алгоритмів для розпізнавання образів, найвідомішим представником якого є метод опорних векторів (англ. support vector machine, SVM). Загальна задача розпізнавання образів полягає у знаходженні та вивченні основних типів відношень (наприклад, кластерів, ранжування, головних компонент, кореляцій, класифікацій) у наборах даних. Для багатьох алгоритмів, які розв'язують ці задачі, дані в сирому представленні має бути явним чином перетворено на представлення у вигляді векторів ознак через визначене користувачем відображення ознак (англ. feature map): на противагу цьому ядрові методи вимагають лише вказаного користувачем ядра (англ. kernel), тобто, функції подібності над парами точок даних у сирому представленні. (uk) |
| rdfs:label | Kernel-Methode (de) Metodo kernel (it) Kernel method (en) Astuce du noyau (fr) カーネル法 (ja) Ядерный метод (ru) Ядрові методи (uk) |
| owl:sameAs | freebase:Kernel method yago-res:Kernel method wikidata:Kernel method dbpedia-de:Kernel method dbpedia-fr:Kernel method dbpedia-it:Kernel method dbpedia-ja:Kernel method dbpedia-ru:Kernel method dbpedia-uk:Kernel method https://global.dbpedia.org/id/4omsj |
| prov:wasDerivedFrom | wikipedia-en:Kernel_method?oldid=1115063389&ns=0 |
| foaf:depiction | wiki-commons:Special:FilePath/Kernel_trick_idea.svg |
| foaf:isPrimaryTopicOf | wikipedia-en:Kernel_method |
| is dbo:knownFor of | dbr:Yoonkyung_Lee |
| is dbo:wikiPageDisambiguates of | dbr:KM dbr:Kernel |
| is dbo:wikiPageRedirects of | dbr:Kernel_Methods dbr:Kernel_methods dbr:Kernel_trick dbr:Kernel_Machines dbr:Kernel_Method dbr:Kernel_machine dbr:Kernel_machines |
| is dbo:wikiPageWikiLink of | dbr:Neural_tangent_kernel dbr:Mercer's_theorem dbr:Ontology_learning dbr:Kernel_Methods dbr:Kernel_methods dbr:David_Haussler dbr:Instance-based_learning dbr:Integral_transform dbr:Protein–protein_interaction dbr:Low-rank_matrix_approximations dbr:Similarity_learning dbr:Timeline_of_machine_learning dbr:Glossary_of_artificial_intelligence dbr:Computational_economics dbr:Fault_detection_and_isolation dbr:Feature_engineering dbr:Feature_hashing dbr:Kernel_regression dbr:Isomap dbr:Random_forest dbr:Cover's_theorem dbr:Support_vector_machine dbr:Maria-Florina_Balcan dbr:Positive-definite_kernel dbr:Klaus-Robert_Müller dbr:Kristen_Grauman dbr:Radial_basis_function_kernel dbr:Multiple_kernel_learning dbr:KM dbr:Kernel dbr:Kernel_trick dbr:Manifold_regularization dbr:Outline_of_machine_learning dbr:Outline_of_statistics dbr:Yoonkyung_Lee dbr:Yuichi_Motai dbr:Kernel_Machines dbr:Kernel_Method dbr:Kernel_machine dbr:Kernel_machines |
| is dbp:knownFor of | dbr:Yoonkyung_Lee |
| is rdfs:seeAlso of | dbr:Online_machine_learning |
| is foaf:primaryTopic of | wikipedia-en:Kernel_method |
